Intel OpenVINO التصدير

في هذا الدليل، نغطي التصدير YOLO11 نماذج إلى تنسيق OpenVINO ، والتي يمكن أن توفر تسريع CPU بما يصل إلى 3 أضعاف، بالإضافة إلى تسريع YOLO الاستدلال على Intel أجهزة GPU و NPU .

OpenVINOوهي اختصار لـ Open Visual Inference & Neural Network Optimization Toolkit، وهي مجموعة أدوات شاملة لتحسين ونشر نماذج الاستدلال بالذكاء الاصطناعي. على الرغم من أن الاسم يحتوي على Visual، إلا أن OpenVINO يدعم أيضًا العديد من المهام الإضافية المختلفة بما في ذلك اللغة والصوت والسلاسل الزمنية وما إلى ذلك.

شاهد: كيفية تصدير وتحسين نموذج Ultralytics YOLOv8 للاستدلال باستخدام OpenVINO.

أمثلة على الاستخدام

تصدير نموذج YOLO11n إلى OpenVINO تنسيق وتشغيل الاستدلال باستخدام النموذج المُصدَّر.

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo11n_openvino_model/'

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

# Run inference with specified device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

# Export a YOLO11n PyTorch model to OpenVINO format
yolo export model=yolo11n.pt format=openvino # creates 'yolo11n_openvino_model/'

# Run inference with the exported model
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg'

# Run inference with specified device, available devices: ["intel:gpu", "intel:npu", "intel:cpu"]
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg' device="intel:gpu"

حجج التصدير

لمزيد من التفاصيل حول عملية التصدير، يرجى زيارة صفحة التوثيقUltralytics الخاصة بالتصدير.

فوائد OpenVINO

1. الأداء: OpenVINO يوفر استنتاجاً عالي الأداء من خلال الاستفادة من قوة وحدات المعالجة المركزية Intel ووحدات معالجة الرسومات المدمجة والمنفصلة ووحدات معالجة الرسومات FPGA.
2. دعم التنفيذ غير المتجانس: OpenVINO يوفر واجهة برمجة تطبيقات للكتابة مرة واحدة والنشر على أي أجهزة Intel مدعومة (CPU ، GPU ، FPGA، VPU، إلخ).
3. مُحسِّن النماذج: OpenVINO يوفر مُحسِّن النماذج الذي يقوم باستيراد النماذج وتحويلها وتحسينها من أطر التعلم العميق الشائعة مثل PyTorch, TensorFlowTensorFlow Lite و Keras و ONNX و PaddlePaddle و Caffe.
4. سهولة الاستخدام: تأتي مجموعة الأدوات مع أكثر من 80 دفتر ملاحظات تعليمي (بما في ذلك التحسينYOLOv8 ) لتعليم جوانب مختلفة من مجموعة الأدوات.

OpenVINO هيكل التصدير

عند تصدير نموذج إلى تنسيق OpenVINO ، ينتج عن ذلك دليل يحتوي على ما يلي:

1. ملف XML: يصف طوبولوجيا الشبكة.
2. ملف BIN: يحتوي على البيانات الثنائية weights and biases .
3. ملف التعيين: يحتفظ بتعيين مجلدات مخرجات النموذج الأصلي إلى OpenVINO tensor الأسماء.

يمكنك استخدام هذه الملفات لتشغيل الاستدلال باستخدام محرك الاستدلال OpenVINO .

استخدام OpenVINO التصدير في النشر

بمجرد تصدير النموذج الخاص بك بنجاح إلى OpenVINO التنسيق، لديك خياران رئيسيان لتشغيل الاستدلال:

1. استخدم ultralytics الحزمة، التي توفر واجهة برمجة تطبيقات عالية المستوى وتغلف OpenVINO وقت التشغيل.

2. استخدم الأصلي openvino حزمة للتحكم بشكل أكثر تقدمًا أو تخصيصًا في سلوك الاستدلال.

الاستدلال مع Ultralytics

ال ultralytics تتيح لك الحزمة تشغيل الاستدلال بسهولة باستخدام المصدر OpenVINO نموذج عبر طريقة التنبؤ. يمكنك أيضًا تحديد الجهاز المستهدف (مثلًا، intel:gpu, intel:npu, intel:cpu) باستخدام وسيطة الجهاز.

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")  # the path of your exported OpenVINO model
# Run inference with the exported model
ov_model.predict(device="intel:gpu")  # specify the device you want to run inference on

يعد هذا النهج مثاليًا للنماذج الأولية السريعة أو النشر عندما لا تحتاج إلى التحكم الكامل في خط أنابيب الاستدلال.

الاستدلال مع OpenVINO وقت التشغيل

ال openvino يوفر وقت التشغيل واجهة برمجة تطبيقات موحدة للاستدلال عبر جميع الأنظمة المدعومة Intel الأجهزة. كما يوفر أيضًا إمكانيات متقدمة مثل موازنة التحميل عبر Intel التنفيذ غير المتزامن والعتادي. لمزيد من المعلومات حول تشغيل الاستدلال، راجع دفاتر YOLO11 .

تذكّر أنك ستحتاج إلى ملفات XML و BIN بالإضافة إلى أي إعدادات خاصة بالتطبيق مثل حجم الإدخال، ومعامل القياس للتطبيع، وما إلى ذلك، لإعداد النموذج واستخدامه بشكل صحيح مع وقت التشغيل.

في تطبيق النشر الخاص بك، عادةً ما تقوم بالخطوات التالية:

1. تهيئة OpenVINO بإنشاء عن طريق إنشاء core = Core().
2. قم بتحميل النموذج باستخدام core.read_model() الطريقة.
3. قم بتجميع النموذج باستخدام core.compile_model() الوظيفة.
4. قم بإعداد المدخلات (صورة، نص، نص، صوت، إلخ).
5. تشغيل الاستدلال باستخدام compiled_model(input_data).

للمزيد من الخطوات التفصيلية ومقتطفات التعليمات البرمجية، راجع وثائقOpenVINO أو البرنامج التعليمي لواجهة برمجة التطبيقات.

OpenVINO YOLO11 المعايير

ال Ultralytics الفريق الذي تم تقييمه YOLO11 عبر تنسيقات النماذج المختلفة والدقة ، وتقييم السرعة والدقة على مختلف Intel الأجهزة المتوافقة مع OpenVINO .

Intel الأساسيات CPU

سلسلة Intel® Core® Core® هي مجموعة من المعالجات عالية الأداء من Intel. وتتضمن المجموعة Core i3 (مستوى المبتدئين)، و Core i5 (متوسط المدى)، و Core i7 (عالي الأداء)، و Core i9 (أداء فائق). تلبي كل سلسلة احتياجات وميزانيات الحوسبة المختلفة، بدءًا من المهام اليومية إلى أعباء العمل الاحترافية الصعبة. مع كل جيل جديد، يتم إجراء تحسينات على الأداء وكفاءة الطاقة والميزات.

تعمل المعايير أدناه على معالج Intel® Core® i9-12900KS من الجيل الثاني عشر CPU بدقة FP32.

إنتل® كور™ ألترا

تُمثل سلسلة Intel® Core™ Ultra™ معيارًا جديدًا في الحوسبة عالية الأداء، وهي مصممة لتلبية المتطلبات المتطورة للمستخدمين المعاصرين، من اللاعبين والمبدعين إلى المحترفين الذين يستخدمون الذكاء الاصطناعي. هذه التشكيلة من الجيل التالي تتجاوز مجرد تشكيلة تقليدية CPU سلسلة؛ فهي تجمع بين القوة CPU النوى المتكاملة عالية الأداء GPU وتتضمن شريحة واحدة قدرات معالجة عصبية مخصصة (NPU)، مما يوفر حلاً موحدًا لأحمال العمل الحاسوبية المتنوعة والمكثفة.

يوجد في قلب بنية Intel® Core Ultra™ تصميم هجين يتيح أداءً استثنائيًا عبر مهام المعالجة التقليدية، GPU - تسريع أحمال العمل، وعمليات تعتمد على الذكاء الاصطناعي. يُحسّن تضمين وحدة المعالجة العصبية (NPU) استدلال الذكاء الاصطناعي على الجهاز، مما يُتيح تعلمًا آليًا ومعالجة بيانات أسرع وأكثر كفاءة عبر مجموعة واسعة من التطبيقات.

تتضمن عائلة Core Ultra™ طُرزًا متنوعة مصممة لتلبية احتياجات الأداء المختلفة، مع خيارات تتراوح من التصاميم الموفرة للطاقة إلى الطُرز عالية الطاقة التي تحمل علامة "H"، وهي مثالية لأجهزة الكمبيوتر المحمولة والصغيرة الحجم التي تتطلب قوة حوسبة هائلة. يستفيد المستخدمون من تضافر جهود CPU ، GPU ، وتكامل NPU، مما يوفر كفاءة ملحوظة واستجابة وقدرات متعددة المهام.

كجزء من Intel مع استمرار ابتكارات 'كور ألترا'، تُرسي سلسلة 'كور ألترا' معيارًا جديدًا للحوسبة المُجهّزة للمستقبل. مع توفر طُرز مُتعددة والمزيد في الأفق، تُؤكد هذه السلسلة على Intel التزامها بتقديم حلول متطورة للجيل القادم من الأجهزة الذكية المعززة بالذكاء الاصطناعي.

تعمل المعايير التالية على Intel® Core™ Ultra™ 7 258V بدقة FP32 وINT8.

Intel® Core™ Ultra™ 7 258V

المعايير

إنتل® آرك المدمج GPUIntel® Meteor Lake CPUوحدة المعالجة العصبية المعززة بالذكاء الاصطناعي المدمجة Intel® AI Boost NPU

الطراز	التنسيق	الدقة	الحالة	الحجم (ميغابايت)	المقاييس/خطة العمل 50-95 (ب)	زمن الاستدلال (م/م)
يولو 11 ن	PyTorch	FP32	✅	5.4	0.6316	39.52
يولو 11 ن	OpenVINO	FP32	✅	10.4	0.6112	19.59
يولو 11 ن	OpenVINO	INT8	✅	3.3	0.6219	14.43
YOLO11s	PyTorch	FP32	✅	18.4	0.7469	104.09
YOLO11s	OpenVINO	FP32	✅	36.4	0.7414	16.274
YOLO11s	OpenVINO	INT8	✅	9.8	0.7086	19.436
يولو 11 م	PyTorch	FP32	✅	38.8	0.7642	286.281
يولو 11 م	OpenVINO	FP32	✅	77.1	0.7642	18.69
يولو 11 م	OpenVINO	INT8	✅	20.2	0.7445	21.74
يولو 11ل	PyTorch	FP32	✅	49.0	0.7401	352.25
يولو 11ل	OpenVINO	FP32	✅	97.3	0.7264	31.90
يولو 11ل	OpenVINO	INT8	✅	25.7	0.7376	25.64
يولو11x	PyTorch	FP32	✅	109.3	0.8467	731.15
يولو11x	OpenVINO	FP32	✅	217.8	0.8308	45.12
يولو11x	OpenVINO	INT8	✅	55.9	0.8156	32.57

الطراز	التنسيق	الدقة	الحالة	الحجم (ميغابايت)	المقاييس/خطة العمل 50-95 (ب)	زمن الاستدلال (م/م)
يولو 11 ن	PyTorch	FP32	✅	5.4	0.6316	39.52
يولو 11 ن	OpenVINO	FP32	✅	10.4	0.6082	30.21
يولو 11 ن	OpenVINO	INT8	✅	3.3	0.6256	17.98
YOLO11s	PyTorch	FP32	✅	18.4	0.7469	104.09
YOLO11s	OpenVINO	FP32	✅	36.4	0.7400	81.09
YOLO11s	OpenVINO	INT8	✅	9.8	0.7488	41.04
يولو 11 م	PyTorch	FP32	✅	38.8	0.7642	286.28
يولو 11 م	OpenVINO	FP32	✅	77.1	0.7642	204.31
يولو 11 م	OpenVINO	INT8	✅	20.2	0.7504	109.51
يولو 11ل	PyTorch	FP32	✅	49.0	0.7401	352.25
يولو 11ل	OpenVINO	FP32	✅	97.3	0.7249	319.97
يولو 11ل	OpenVINO	INT8	✅	25.7	0.7318	136.44
يولو11x	PyTorch	FP32	✅	109.3	0.8467	731.15
يولو11x	OpenVINO	FP32	✅	217.8	0.8308	742.98
يولو11x	OpenVINO	INT8	✅	55.9	0.819	288.02

الطراز	التنسيق	الدقة	الحالة	الحجم (ميغابايت)	المقاييس/خطة العمل 50-95 (ب)	زمن الاستدلال (م/م)
يولو 11 ن	PyTorch	FP32	✅	5.4	0.6316	39.52
يولو 11 ن	OpenVINO	FP32	✅	10.4	0.6096	11.58
يولو 11 ن	OpenVINO	INT8	✅	3.3	0.6380	12.60
YOLO11s	PyTorch	FP32	✅	18.4	0.7469	104.09
YOLO11s	OpenVINO	FP32	✅	36.4	0.7430	15.15
YOLO11s	OpenVINO	INT8	✅	9.8	0.744	21.22
يولو 11 م	PyTorch	FP32	✅	38.8	0.7642	286.28
يولو 11 م	OpenVINO	FP32	✅	77.1	0.7642	32.92
يولو 11 م	OpenVINO	INT8	✅	20.2	0.7445	21.74
يولو 11ل	PyTorch	FP32	✅	49.0	0.7401	352.25
يولو 11ل	OpenVINO	FP32	✅	97.3	0.7264	43.15
يولو 11ل	OpenVINO	INT8	✅	25.7	0.7313	42.27
يولو11x	PyTorch	FP32	✅	109.3	0.8467	731.15
يولو11x	OpenVINO	FP32	✅	217.8	0.8308	74.33
يولو11x	OpenVINO	INT8	✅	55.9	0.8211	59.41

إعادة إنتاج نتائجنا

لإعادة إنتاج معايير Ultralytics أعلاه على جميع تنسيقات التصدير قم بتشغيل هذا الرمز:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and accuracy on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

# Benchmark YOLO11n speed and accuracy on the COCO8 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco8.yaml

الخاتمة

وتوضح نتائج المقارنة بوضوح فوائد التصدير YOLO11 نموذج ل OpenVINO التنسيق. عبر نماذج ومنصات أجهزة مختلفة، OpenVINO يتفوق التنسيق باستمرار على التنسيقات الأخرى من حيث سرعة الاستدلال مع الحفاظ على دقة قابلة للمقارنة.

تؤكد المعايير على فعالية OpenVINO كأداة لنشر نماذج التعلم العميق. من خلال تحويل النماذج إلى تنسيق OpenVINO ، يمكن للمطورين تحقيق تحسينات كبيرة في الأداء، مما يسهل نشر هذه النماذج في تطبيقات العالم الحقيقي.

لمزيد من المعلومات والإرشادات التفصيلية حول استخدام OpenVINO ، راجع الوثائق الرسمية OpenVINO .

الأسئلة الشائعة

كيف أقوم بالتصدير YOLO11 نماذج ل OpenVINO شكل؟

تصدير YOLO11 نماذج إلى OpenVINO يمكن أن يعزز التنسيق بشكل كبير CPU السرعة والتمكين GPU وتسريعات NPU على Intel الأجهزة. للتصدير، يمكنك استخدام أيٍّ من Python أو CLI كما هو موضح أدناه:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Export the model
model.export(format="openvino")  # creates 'yolo11n_openvino_model/'

# Export a YOLO11n PyTorch model to OpenVINO format
yolo export model=yolo11n.pt format=openvino # creates 'yolo11n_openvino_model/'

لمزيد من المعلومات، راجع وثائق تنسيقات التصدير.

ما هي فوائد استخدام OpenVINO مع YOLO11 نماذج؟

استخدام Intel 'س OpenVINO مجموعة أدوات مع YOLO11 تقدم النماذج العديد من الفوائد:

1. الأداء: تحقيق تسريع يصل إلى 3 أضعاف في الاستدلال CPU والاستفادة من وحدات معالجة الرسومات Intel ووحدات المعالجة العصبية للتسريع.
2. مُحسِّن النماذج: تحويل النماذج وتحسينها وتنفيذها من أطر العمل الشائعة مثل PyTorch و TensorFlow و ONNX.
3. سهولة الاستخدام : يتوفر أكثر من 80 دفترًا تعليميًا لمساعدة المستخدمين على البدء، بما في ذلك تلك الخاصة بـ YOLO11 .
4. تنفيذ غير متجانس: نشر النماذج على أجهزة مختلفة Intel باستخدام واجهة برمجة تطبيقات موحدة.

للحصول على مقارنات مفصّلة للأداء، تفضل بزيارة قسم المعايير لدينا.

كيف يمكنني تشغيل الاستدلال باستخدام YOLO11 النموذج تم تصديره إلى OpenVINO ؟

بعد تصدير نموذج YOLO11n إلى OpenVINO التنسيق، يمكنك تشغيل الاستدلال باستخدام Python أو CLI :

from ultralytics import YOLO

# Load the exported OpenVINO model
ov_model = YOLO("yolo11n_openvino_model/")

# Run inference
results = ov_model("https://ultralytics.com/images/bus.jpg")

# Run inference with the exported model
yolo predict model=yolo11n_openvino_model source='https://ultralytics.com/images/bus.jpg'

ارجع إلى وثائق الوضع التوقعي لمزيد من التفاصيل.

لماذا يجب علي أن أختار Ultralytics YOLO11 على النماذج الأخرى ل OpenVINO يصدّر؟

Ultralytics YOLO11 مُحسّن لاكتشاف الأجسام في الوقت الفعلي بدقة وسرعة عاليتين. تحديدًا، عند دمجه مع OpenVINO ، YOLO11 يوفر:

• تسريع يصل إلى 3 أضعاف السرعة على وحدات المعالجة المركزية Intel
• نشر سلس على وحدات معالجة الرسوميات ووحدات المعالجة العصبية Intel
• دقة متسقة وقابلة للمقارنة عبر تنسيقات التصدير المختلفة

لتحليل الأداء المتعمق، راجع معايير YOLO11 التفصيلية الخاصة بنا على أجهزة مختلفة.

هل يمكنني إجراء معايرة؟ YOLO11 نماذج بتنسيقات مختلفة مثل PyTorch ، ONNX ، و OpenVINO ؟

نعم، يمكنك إجراء معايرة YOLO11 نماذج في أشكال مختلفة بما في ذلك PyTorch ، TorchScript ، ONNX ، و OpenVINO استخدم مقتطف التعليمات البرمجية التالي لتشغيل معايير الأداء على مجموعة البيانات التي اخترتها:

from ultralytics import YOLO

# Load a YOLO11n PyTorch model
model = YOLO("yolo11n.pt")

# Benchmark YOLO11n speed and [accuracy](https://www.ultralytics.com/glossary/accuracy) on the COCO8 dataset for all export formats
results = model.benchmark(data="coco8.yaml")

# Benchmark YOLO11n speed and accuracy on the COCO8 dataset for all export formats
yolo benchmark model=yolo11n.pt data=coco8.yaml

للحصول على نتائج معيارية مفصلة، راجع قسم المعايير ووثائق تنسيقات التصدير.

📅 تم إنشاؤها منذ 1 سنة مضت ✏️ تم التحديث منذ 1 يوم

التعليقات