ٹیکنیکل گائیڈ
تقسیم شدہ AI کے لیے رے
رے ایک اوپن سورس فریم ورک ہے جو لیپ ٹاپ سے لے کر ہزاروں مشینوں کے کلسٹر تک Python اور AI ورک بوجھ کو پیمانہ کرنا آسان بناتا ہے۔
اس گائیڈ کو سنیں۔اے آئی نے بیان کیا۔ · ~2 min
اس صفحہ پر2 منٹ پڑھیں
جائزہ
یہ اہمیت رکھتا ہے کیونکہ یہ ہر ایک کے لیے آپ کے کوڈ کو دوبارہ لکھے بغیر تربیت، ٹیوننگ، ڈیٹا پروسیسنگ، اور سرونگ تقسیم کرنے کا ایک آسان، متحد طریقہ فراہم کرتا ہے۔
گہرا غوطہ
رے کا بنیادی خیال کم سے کم تبدیلی کے ساتھ عام Python فنکشنز اور کلاسز کو تقسیم شدہ یونٹوں میں تبدیل کر رہا ہے۔ ریموٹ 'ٹاسک' کے بطور نشان زد ایک فنکشن کلسٹر میں کسی بھی کارکن پر متضاد طور پر چلتا ہے۔ دور دراز کے 'اداکار' کے طور پر نشان زد ایک کلاس ایک کارکن پر رہنے والی ریاستی خدمت بن جاتی ہے۔ رے ہلکا پھلکا فیوچر (آبجیکٹ حوالہ جات) واپس کرتا ہے اور شیڈولنگ، مشترکہ آبجیکٹ اسٹور کے ذریعے ڈیٹا کی نقل و حرکت، اور غلطی برداشت کرتا ہے۔ اس بنیادی سیٹ کے مقصد سے تیار کردہ لائبریریوں کے اوپری حصے میں: تقسیم شدہ ماڈل ٹریننگ کے لیے رے ٹرین، ہائپر پیرامیٹر کی تلاش کے لیے رے ٹیون، ڈیٹا پائپ لائنوں کو سٹریم کرنے کے لیے رے ڈیٹا، کمک سیکھنے کے لیے RLlib، اور توسیع پذیر ماڈل کی خدمت کے لیے رے سرو۔ یہ ایک کلسٹر کو پورے ML ورک فلو کو آخر تک ہینڈل کرنے دیتا ہے۔
حقیقی دنیا کا نفاذ
بہترین ماڈل کنفیگریشن تلاش کرنے کے لیے ایک GPU کلسٹر میں متوازی طور پر سینکڑوں ہائپر پیرامیٹر کے مجموعے تلاش کرنے کے لیے رے ٹیون چلانا
بہت سے GPUs اور نوڈس میں کم سے کم کوڈ تبدیلیوں کے ساتھ گہری سیکھنے کے ماڈل کی تربیت کو تقسیم کرنے کے لیے رے ٹرین کا استعمال
رے ڈیٹا کے ساتھ ایک بیچ-انفرنس پائپ لائن بنانا تاکہ ریکارڈز کو ایک کلسٹر میں ماڈل کے ذریعے سٹریم کر کے لاکھوں ریکارڈ اسکور کر سکیں
متغیر پروڈکشن ٹریفک کو سنبھالنے کے لیے رے سرو کے ساتھ ایک ہی آٹو اسکیلنگ اینڈ پوائنٹ کے پیچھے متعدد ماڈلز کو تعینات کرنا
تقسیم شدہ AI کے لیے رے کا مستقبل
رے بڑے پیمانے پر AI کے لیے ریڑھ کی ہڈی بن گیا ہے، خاص طور پر بڑے زبان کے ماڈلز کی تربیت اور پیش کرنے میں استعمال ہوتا ہے۔ LLM کے لیے مخصوص سرونگ (VLLM کے ساتھ رے سرو)، متضاد GPU شیڈولنگ، ڈیٹا لیکس اور Kubernetes کے ساتھ KubeRay کے ذریعے سخت انضمام، اور تیز پیدا کرنے والے کام کے بوجھ کے لیے بہتر آٹو اسکیلنگ میں اضافے کی توقع کریں۔ جیسے جیسے ماڈلز بڑھتے ہیں، ملٹی نوڈ ٹریننگ، RLHF پائپ لائنز، اور ہزاروں ایکسلریٹروں کے بیچ کے تخمینے کو ترتیب دینے میں رے کے کردار میں توسیع کا امکان ہے۔
اسے عملی جامہ پہنانا
یہ کیوں اہمیت رکھتا ہے۔
- لاگت اور بجٹ. فن تعمیر کے فیصلے سالوں تک کارکردگی اور آپریٹنگ لاگت کو آگے بڑھاتے ہیں۔
- واضح فیصلے. تکنیکی تعلیم ٹیموں کو صحیح اسٹیک منتخب کرنے میں مدد کرتی ہے، نہ صرف جدید ترین۔
- کوالٹی کنٹرول. انجینئرنگ کے بہتر انتخاب پیداوار میں قابل اعتماد واقعات کو کم کرتے ہیں۔
پر نگاہ رکھیں
- ایک بینچ مارک کو بہتر بنانا نظام کی وسیع تر کمزوریوں کو چھپا سکتا ہے۔
- بنیادی ڈھانچے اور دیکھ بھال کے اخراجات کو اکثر کم سمجھا جاتا ہے۔
- سیکورٹی اور مشاہداتی فرق بڑھ سکتا ہے کیونکہ نظام زیادہ پیچیدہ ہو جاتا ہے۔
اگلے اقدامات
- نفاذ سے پہلے تاخیر، معیار اور لاگت کے اہداف کی وضاحت کریں۔
- حقیقت پسندانہ بوجھ اور ڈیٹا کی شرائط کے تحت بینچ مارک۔
- غلطیوں، بڑھے ہوئے، اور صارف کے اثرات کے لیے آلے کی نگرانی۔
- اسکیلنگ سے پہلے رول بیک اور واقعہ کے ردعمل کے راستے تیار کریں۔
دریافت کرتے رہیں
مفت نیوز لیٹر
روزانہ AI بریفنگ حاصل کریں
ہر ہفتے کے دن صبح تین تصدیق شدہ AI کہانیاں، سادہ انگریزی میں لکھی گئیں۔ ہمیشہ کے لیے مفت، کوئی اشتہار نہیں۔
ہر ہفتے کے دن ایک ای میل۔ ایک کلک میں ان سبسکرائب کریں۔ ہم کبھی بھی آپ کا پتہ فروخت یا شیئر نہیں کرتے۔
اپنے آپ کو جانچیں۔
Take the Ray for Distributed AI quiz
ہر جواب پر فوری فیڈبیک، اور کورس پاس کرنے کے بعد قابلِ تصدیق ID کے ساتھ شیئر کرنے کے قابل سرٹیفکیٹ۔
مفت AI تعلیم کی حمایت کریں۔ AI Understanding ایک 501(c)(3) غیر منافع بخش ادارہ ہے — کوئی اشتہار نہیں، کوئی پے وال نہیں، کبھی نہیں۔ عطیہ کریں۔
اکثر پوچھے گئے سوالات
تقسیم شدہ AI کے لیے رے کیا ہے؟
رے ایک اوپن سورس فریم ورک ہے جو لیپ ٹاپ سے لے کر ہزاروں مشینوں کے کلسٹر تک Python اور AI ورک بوجھ کو پیمانہ کرنا آسان بناتا ہے۔ یہ اہمیت رکھتا ہے کیونکہ یہ ہر ایک کے لیے آپ کے کوڈ کو دوبارہ لکھے بغیر تربیت، ٹیوننگ، ڈیٹا پروسیسنگ، اور سرونگ تقسیم کرنے کا ایک آسان، متحد طریقہ فراہم کرتا ہے۔
رے بنیادی طور پر کون سا مسئلہ حل کرتا ہے؟
رے کام کے بوجھ کی ہر قسم کے لیے آپ کے کوڈ کو دوبارہ لکھے بغیر کئی مشینوں میں حساب تقسیم کرنے کا ایک متحد، آسان طریقہ فراہم کرتا ہے۔
رے میں، 'ٹاسک' اور 'اداکار' میں کیا فرق ہے؟
ٹاسک اسٹیٹ لیس ریموٹ فنکشنز ہیں جو متوازی طور پر چلتے ہیں، جب کہ اداکار طویل عرصے تک رہنے والی چیزیں ہیں جو ایک بھری ہوئی ماڈل کی طرح ریاست کو برقرار رکھتی ہیں۔
جب آپ کوئی ریموٹ ٹاسک شروع کرتے ہیں تو رے فوری طور پر کیا واپس کرتا ہے؟
رے فوری طور پر ایک ہلکا پھلکا مستقبل لوٹاتا ہے لہذا کام متضاد طور پر چلتا ہے۔ آپ ray.get() کو کال کریں تاکہ ضرورت پڑنے پر اصل نتیجہ حاصل کیا جا سکے۔
کون سی رے لائبریری تقسیم شدہ ہائپر پیرامیٹر تلاش کے لیے ڈیزائن کی گئی ہے؟
رے ٹیون ایک کلسٹر میں متوازی طور پر بہت سے ہائپر پیرامیٹر ٹرائلز چلانے میں مہارت رکھتا ہے۔
Which object type do Ray’s docs explicitly say can be read from same-node object-store memory without a copy?
Ray documents zero-copy reads for NumPy arrays stored in the object store when workers on the same node access them. Other values may require deserialization, and data requested across nodes must be transferred.
سیکھتے رہیں
متعلقہ گائیڈز
اس موضوع کے لیے مزید گائیڈز چنے گئے ہیں۔