راي للذكاء الاصطناعي الموزع
Ray هو إطار عمل مفتوح المصدر يجعل من السهل توسيع نطاق أعباء عمل Python وAI من جهاز كمبيوتر محمول إلى مجموعة من الآلاف من الأجهزة.
نظرة عامة
It matters because it gives a simple, unified way to distribute training, tuning, data processing, and serving without rewriting your code for each.
الغوص العميق
تتمثل فكرة راي الأساسية في تحويل وظائف وفئات بايثون العادية إلى وحدات موزعة بأقل قدر من التغيير. يتم تشغيل الوظيفة التي تم وضع علامة عليها على أنها "مهمة" عن بعد بشكل غير متزامن على أي عامل في المجموعة؛ تصبح الفئة التي تم تمييزها على أنها "ممثل" عن بعد خدمة ذات حالة تعيش على العامل. يقوم Ray بإرجاع العقود الآجلة خفيفة الوزن (مراجع الكائنات) ويتعامل مع الجدولة وحركة البيانات عبر مخزن كائنات مشترك والتسامح مع الأخطاء. علاوة على ذلك، توجد مكتبات مصممة خصيصًا لهذا الغرض: Ray Train للتدريب على النماذج الموزعة، وRay Tune للبحث عن المعلمات الفائقة، وRay Data لتدفق خطوط أنابيب البيانات، وRLlib للتعلم المعزز، وRay Service لخدمة النماذج القابلة للتطوير. يتيح ذلك لمجموعة واحدة التعامل مع سير عمل ML بالكامل من البداية إلى النهاية.
البصيرة الفنية
البدائيات الرئيسية هي المهام (استدعاءات الوظائف المتوازية وعديمة الحالة) والممثلين (العاملون ذوو الحالة الذين يحملون أشياء مثل نموذج محمل أو عداد). عند استدعاء مهمة عن بعد، يقوم Ray على الفور بإرجاع المستقبل ويقوم بجدولة العمل عبر وحدات المعالجة المركزية/وحدات معالجة الرسومات المتاحة؛ يمكنك استدعاء ray.get() لجلب النتائج. يقوم مخزن الكائنات الموزع في الذاكرة مع ذاكرة مشتركة خالية من النسخ بنقل الكائنات الكبيرة مثل المصفوفات بين العمال بكفاءة، مما يتجنب التسلسل المتكرر ويجعل خطوط أنابيب الذكاء الاصطناعي المثقلة بالبيانات سريعة.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل راي للذكاء الاصطناعي الموزع
لقد أصبح راي العمود الفقري للذكاء الاصطناعي واسع النطاق، ويستخدم بشكل خاص في التدريب وتقديم نماذج لغوية كبيرة. توقع النمو في العرض الخاص بـ LLM (Ray Service with vLLM)، وجدولة وحدة معالجة الرسومات غير المتجانسة، والتكامل الأكثر إحكامًا مع مستودعات البيانات وKubernetes عبر KubeRay، والقياس التلقائي الأفضل لأحمال العمل التوليدية الشائكة. مع نمو النماذج، من المرجح أن يتوسع دور راي في تنظيم التدريب متعدد العقد، وخطوط أنابيب RLHF، والاستدلال المجمع عبر آلاف المسرعات.
التنفيذ في العالم الحقيقي
تشغيل Ray Tune للبحث في مئات مجموعات المعلمات الفائقة بالتوازي عبر مجموعة GPU للعثور على أفضل تكوين للنموذج
استخدام Ray Train لتوزيع التدريب على نموذج التعلم العميق عبر العديد من وحدات معالجة الرسومات والعقد مع الحد الأدنى من تغييرات التعليمات البرمجية
إنشاء خط أنابيب لاستدلال الدُفعات باستخدام Ray Data لتسجيل ملايين السجلات من خلال دفقها من خلال نموذج عبر مجموعة
نشر نماذج متعددة خلف نقطة نهاية واحدة للقياس التلقائي باستخدام Ray Service للتعامل مع حركة الإنتاج المتغيرة
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Ray for Distributed AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
نقطة تفتيش التدرج
الأسئلة المتداولة
What is Ray for Distributed AI?
Ray هو إطار عمل مفتوح المصدر يجعل من السهل توسيع نطاق أعباء عمل Python وAI من جهاز كمبيوتر محمول إلى مجموعة من الآلاف من الأجهزة. إنه مهم لأنه يوفر طريقة بسيطة وموحدة لتوزيع التدريب والضبط ومعالجة البيانات والخدمة دون إعادة كتابة التعليمات البرمجية الخاصة بك لكل منها.
ما هي المشكلة التي يحلها راي في المقام الأول؟
يوفر Ray طريقة موحدة وبسيطة لتوزيع العمليات الحسابية عبر العديد من الأجهزة دون إعادة كتابة التعليمات البرمجية الخاصة بك لكل نوع من أنواع حمل العمل.
في راي، ما الفرق بين "المهمة" و"الممثل"؟
المهام هي وظائف عن بعد عديمة الحالة تعمل بالتوازي، في حين أن الممثلين عبارة عن كائنات طويلة العمر تحافظ على حالتها، مثل نموذج محمل.
ما الذي يعود به راي فورًا عند بدء مهمة عن بعد؟
يقوم راي بإرجاع مستقبل خفيف الوزن على الفور بحيث يتم تنفيذ العمل بشكل غير متزامن؛ يمكنك استدعاء ray.get() لاسترداد النتيجة الفعلية عند الحاجة.
ما هي مكتبة Ray المصممة للبحث عن المعلمات التشعبية الموزعة؟
يتخصص Ray Tune في تشغيل العديد من تجارب المعلمات الفائقة بالتوازي عبر مجموعة.
كيف يجعل مخزن الكائنات الخاص بـ Ray خطوط أنابيب الذكاء الاصطناعي ذات البيانات الثقيلة فعالة؟
يستخدم مخزن العناصر المشترك في الذاكرة عمليات قراءة بدون نسخة بحيث يمكن للعاملين الوصول إلى المصفوفات الكبيرة دون الحاجة إلى إعادة تسلسل مكلفة.