التاليالدليل التالي
كشف تجويف الأسنان بالأشعة السينية باستخدام الذكاء الاصطناعي
الذكاء الاصطناعي البصري
الدليل الفني
راي للذكاء الاصطناعي الموزع
Ray هو إطار عمل مفتوح المصدر يجعل من السهل توسيع نطاق أعباء عمل Python وAI من جهاز كمبيوتر محمول إلى مجموعة من الآلاف من الأجهزة.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
إنه مهم لأنه يوفر طريقة بسيطة وموحدة لتوزيع التدريب والضبط ومعالجة البيانات والخدمة دون إعادة كتابة التعليمات البرمجية الخاصة بك لكل منها.
الغوص العميق
تتمثل فكرة راي الأساسية في تحويل وظائف وفئات بايثون العادية إلى وحدات موزعة بأقل قدر من التغيير. يتم تشغيل الوظيفة التي تم وضع علامة عليها على أنها "مهمة" عن بعد بشكل غير متزامن على أي عامل في المجموعة؛ تصبح الفئة التي تم تمييزها على أنها "ممثل" عن بعد خدمة ذات حالة تعيش على العامل. يقوم Ray بإرجاع العقود الآجلة خفيفة الوزن (مراجع الكائنات) ويتعامل مع الجدولة وحركة البيانات عبر مخزن كائنات مشترك والتسامح مع الأخطاء. علاوة على ذلك، توجد مكتبات مصممة خصيصًا لهذا الغرض: Ray Train للتدريب على النماذج الموزعة، وRay Tune للبحث عن المعلمات الفائقة، وRay Data لتدفق خطوط أنابيب البيانات، وRLlib للتعلم المعزز، وRay Service لخدمة النماذج القابلة للتطوير. يتيح ذلك لمجموعة واحدة التعامل مع سير عمل ML بالكامل من البداية إلى النهاية.
التنفيذ في العالم الحقيقي
تشغيل Ray Tune للبحث في مئات مجموعات المعلمات الفائقة بالتوازي عبر مجموعة GPU للعثور على أفضل تكوين للنموذج
استخدام Ray Train لتوزيع التدريب على نموذج التعلم العميق عبر العديد من وحدات معالجة الرسومات والعقد مع الحد الأدنى من تغييرات التعليمات البرمجية
إنشاء خط أنابيب لاستدلال الدُفعات باستخدام Ray Data لتسجيل ملايين السجلات من خلال دفقها من خلال نموذج عبر مجموعة
نشر نماذج متعددة خلف نقطة نهاية واحدة للقياس التلقائي باستخدام Ray Service للتعامل مع حركة الإنتاج المتغيرة
مستقبل راي للذكاء الاصطناعي الموزع
لقد أصبح راي العمود الفقري للذكاء الاصطناعي واسع النطاق، ويستخدم بشكل خاص في التدريب وتقديم نماذج لغوية كبيرة. توقع النمو في العرض الخاص بـ LLM (Ray Service with vLLM)، وجدولة وحدة معالجة الرسومات غير المتجانسة، والتكامل الأكثر إحكامًا مع مستودعات البيانات وKubernetes عبر KubeRay، والقياس التلقائي الأفضل لأحمال العمل التوليدية الشائكة. مع نمو النماذج، من المرجح أن يتوسع دور راي في تنظيم التدريب متعدد العقد، وخطوط أنابيب RLHF، والاستدلال المجمع عبر آلاف المسرعات.
وضعها موضع التنفيذ
لماذا يهم
- التكلفة والميزانية. تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
- قرارات أوضح. يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
- مراقبة الجودة. تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
احترس من
- يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
- غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
- يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
الخطوات التالية
- تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
- المعيار في ظل ظروف التحميل والبيانات الواقعية.
- مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
- قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Ray for Distributed AI quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو راي للذكاء الاصطناعي الموزع؟
Ray هو إطار عمل مفتوح المصدر يجعل من السهل توسيع نطاق أعباء عمل Python وAI من جهاز كمبيوتر محمول إلى مجموعة من الآلاف من الأجهزة. إنه مهم لأنه يوفر طريقة بسيطة وموحدة لتوزيع التدريب والضبط ومعالجة البيانات والخدمة دون إعادة كتابة التعليمات البرمجية الخاصة بك لكل منها.
ما هي المشكلة التي يحلها راي في المقام الأول؟
يوفر Ray طريقة موحدة وبسيطة لتوزيع العمليات الحسابية عبر العديد من الأجهزة دون إعادة كتابة التعليمات البرمجية الخاصة بك لكل نوع من أنواع حمل العمل.
في راي، ما الفرق بين "المهمة" و"الممثل"؟
المهام هي وظائف عن بعد عديمة الحالة تعمل بالتوازي، في حين أن الممثلين عبارة عن كائنات طويلة العمر تحافظ على حالتها، مثل نموذج محمل.
ما الذي يعود به راي فورًا عند بدء مهمة عن بعد؟
يقوم راي بإرجاع مستقبل خفيف الوزن على الفور بحيث يتم تنفيذ العمل بشكل غير متزامن؛ يمكنك استدعاء ray.get() لاسترداد النتيجة الفعلية عند الحاجة.
ما هي مكتبة Ray المصممة للبحث عن المعلمات التشعبية الموزعة؟
يتخصص Ray Tune في تشغيل العديد من تجارب المعلمات الفائقة بالتوازي عبر مجموعة.
Which object type do Ray’s docs explicitly say can be read from same-node object-store memory without a copy?
Ray documents zero-copy reads for NumPy arrays stored in the object store when workers on the same node access them. Other values may require deserialization, and data requested across nodes must be transferred.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع