تقسيم GPU متعدد المثيلات
تعد وحدة معالجة الرسومات متعددة المثيلات (MIG) إحدى تقنيات NVIDIA التي تقوم بتقسيم وحدة معالجة الرسومات الفعلية الواحدة إلى عدة أقسام أجهزة معزولة.
نظرة عامة
It matters because it lets one expensive accelerator serve many small workloads at once without them interfering with each other.
الغوص العميق
تم طرحه مع NVIDIA A100 (Ampere) واستمر في H100 ووحدات معالجة الرسومات الأحدث لمراكز البيانات، حيث تقوم MIG بتقسيم وحدة معالجة الرسومات إلى ما يصل إلى سبع حالات مستقلة. على عكس تقسيم وقت البرنامج، يوفر MIG عزلًا حقيقيًا للأجهزة: فكل مثيل يحصل على معالجات متعددة متدفقة مخصصة له (SMs)، وشرائح ذاكرة التخزين المؤقت L2، ووحدات التحكم في الذاكرة، وشريحة ثابتة من الذاكرة ذات النطاق الترددي العالي. يمكن تقسيم الطراز A100 بسعة 40 جيجابايت إلى سبع مثيلات سعة كل منها 5 جيجابايت، أو عدد أقل من الحالات الأكبر حجمًا. يتصرف كل قسم كوحدة معالجة رسومات أصغر حجمًا ومستقلة، لذا فإن المهمة المزعجة أو المتعطلة في حالة واحدة لا يمكن أن تؤدي إلى تجويع أو إتلاف أخرى. جودة الخدمة المضمونة هذه تجعل MIG مثالية لخدمة الاستدلال، والمجموعات متعددة المستأجرين، وبيئات التطوير حيث يتشارك العديد من المستخدمين بطاقة واحدة.
البصيرة الفنية
يعمل MIG عن طريق ربط الشريط العارض الداخلي لوحدة معالجة الرسومات فعليًا بحيث يكون لكل مثيل مسار ثابت إلى شريحة الذاكرة الخاصة به والرسائل القصيرة الخاصة به. تحدد NVIDIA ملفات التعريف على أنها كسور مثل 1g.5 جيجابايت (شريحة حسابية واحدة، 5 جيجابايت) حتى 7 جرام.40 جيجابايت. يقوم مثيل GPU بحجز الذاكرة والرسائل القصيرة؛ داخله، يقوم مثيل الحوسبة بتقسيم SMs بشكل أكبر. نظرًا لأن الأقسام يتم فرضها بواسطة الأجهزة، فإن الأخطاء وأخطاء ECC وعرض النطاق الترددي للذاكرة تظل محصورة في مثيل واحد.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل تقسيم GPU متعدد المثيلات
مع نمو وحدات معالجة الرسومات إلى 80 جيجابايت و141 جيجابايت وما فوق، يصبح التقسيم أكثر جاذبية لأن النماذج الفردية نادرًا ما تحتاج إلى بطاقة كاملة للاستدلال. توقع تكاملًا أكثر إحكامًا مع Kubernetes والسحابة، وإعادة التقسيم الديناميكي دون استنزاف العقدة، وملفات تعريف أكثر دقة. يتابع البائعون المتنافسون محاكاة افتراضية مماثلة لوحدة معالجة الرسومات على طراز SR-IOV، وتعتمد منصات الاستدلال بدون خادم بشكل متزايد على التقسيم لتعبئة العديد من النماذج بكثافة وتقليل النفايات الخاملة.
التنفيذ في العالم الحقيقي
يقوم موفر السحابة بتقسيم A100 واحد إلى سبع حالات بحيث يحصل كل سبعة عملاء على شريحة GPU معزولة ومضمونة للاستدلال.
تمنح مجموعة أبحاث جامعية كل طالب دكتوراه مثيل MIG سعة 10 جيجابايت لإنشاء النماذج الأولية بدلاً من احتكار البطاقات بأكملها.
تقوم خدمة الاستدلال بتعبئة العديد من نماذج اللغة والرؤية الصغيرة في جهاز H100 واحد، كل منها في قسم خاص بها مع زمن وصول يمكن التنبؤ به.
تعلن مجموعة Kubernetes عن مثيلات MIG كموارد قابلة للجدولة، لذا تطلب البودات "nvidia.com/mig-1g.5gb" مثل أي مورد آخر.
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Multi-Instance GPU Partitioning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التعلم متعدد المهام
الأسئلة المتداولة
What is Multi-Instance GPU Partitioning?
تعد وحدة معالجة الرسومات متعددة المثيلات (MIG) إحدى تقنيات NVIDIA التي تقوم بتقسيم وحدة معالجة الرسومات الفعلية الواحدة إلى عدة أقسام أجهزة معزولة. إنه أمر مهم لأنه يتيح لمسرع واحد باهظ الثمن خدمة العديد من أعباء العمل الصغيرة في وقت واحد دون أن تتداخل مع بعضها البعض.
ما نوع العزل الذي توفره MIG بين الحالات؟
تفرض MIG عزلًا في الأجهزة، وتخصيص الرسائل القصيرة، وشرائح ذاكرة التخزين المؤقت L2، والذاكرة لكل مثيل حتى لا تتداخل أعباء العمل.
على أي بنية NVIDIA تم تقديم MIG لأول مرة؟
ظهرت MIG لأول مرة مع A100 المستند إلى Ampere واستمرت في H100 ووحدات معالجة الرسومات اللاحقة لمراكز البيانات.
ما هو الحد الأقصى لعدد الحالات التي يمكن تقسيم وحدة معالجة الرسومات التي تدعم MIG إليها؟
يمكن تقسيم وحدة معالجة الرسومات التي تدعم MIG مثل A100 إلى ما يصل إلى سبع حالات مستقلة.
في ملف تعريف MIG مثل "1g.5gb"، ما الذي يمثله "5gb"؟
يقوم ملف التعريف بتشفير شرائح الحساب (1 جرام) والذاكرة المخصصة (5 جيجابايت) المقدمة للمثيل.
ما هو حجم العمل الذي يناسب MIG بشكل خاص؟
تتألق MIG عندما تشترك العديد من أعباء العمل الصغيرة والمعزولة (مثل الاستدلال) في بطاقة واحدة مع ضمان جودة الخدمة.