የቴክኒክ መመሪያ

ሬይ ለተከፋፈለ AI

ሬይ ፓይዘንን እና AI የስራ ጫናዎችን ከላፕቶፕ ወደ በሺዎች በሚቆጠሩ ማሽኖች በቀላሉ ለማመጣጠን የሚያስችል ክፍት ምንጭ ማዕቀፍ ነው።

2 ሚን አንብብለመጨረሻ ጊዜ የዘመነው

አጠቃላይ እይታ

It matters because it gives a simple, unified way to distribute training, tuning, data processing, and serving without rewriting your code for each.

ጥልቅ ዳይቭ

የሬይ ዋና ሃሳብ ተራውን የፓይዘን ተግባራትን እና ክፍሎችን በትንሹ ለውጥ ወደ ተከፋፈሉ ክፍሎች መለወጥ ነው። እንደ የርቀት 'ተግባር' ምልክት የተደረገበት ተግባር በክላስተር ውስጥ ባለ ማንኛውም ሰራተኛ ላይ በተመሳሳይ መልኩ ይሰራል። እንደ ሩቅ 'ተዋናይ' ምልክት የተደረገበት ክፍል በሠራተኛ ላይ የሚኖር መንግስታዊ አገልግሎት ይሆናል። ሬይ ቀላል ክብደት ያላቸውን የወደፊት (የነገር ማጣቀሻዎች) ይመልሳል እና መርሐግብርን ይቆጣጠራል፣ የውሂብ እንቅስቃሴን በጋራ ዕቃ መደብር እና ስህተት መቻቻልን ይቆጣጠራል። በዚህ ኮር ቁጭ አላማ የተገነቡ ቤተ-መጻሕፍት ላይ፡ ሬይ ባቡር ለተከፋፈለ ሞዴል ​​ስልጠና፣ ሬይ ቱን ለሃይፐርፓራሜትር ፍለጋ፣ ሬይ ዳታ ለዥረት ዳታ ቧንቧዎችን፣ RLlib ለማጠናከሪያ ትምህርት እና ሬይ ማገልገል ለሚችል ሞዴል አገልግሎት። ይህ አንድ ዘለላ ሙሉውን የML የስራ ፍሰት ከጫፍ እስከ ጫፍ እንዲይዝ ያስችለዋል።

ቴክኒካዊ ግንዛቤ

ዋና ዋናዎቹ ተግባራት (ሀገር አልባ፣ ትይዩ ተግባር ጥሪዎች) እና ተዋናዮች (እንደ የተጫነ ሞዴል ወይም ቆጣሪ ያሉ ነገሮችን የሚይዙ መንግስታዊ ሰራተኞች) ናቸው። የርቀት ተግባርን ሲደውሉ ሬይ ወዲያውኑ የወደፊት ጊዜን ይመልሳል እና በተገኙ ሲፒዩዎች/ጂፒዩዎች ላይ ስራውን መርሐግብር ያስይዛል። ውጤቶችን ለማምጣት ray.get() ደውለዋል። የተከፋፈለ የማህደረ ትውስታ ዕቃ ማከማቻ ዜሮ ቅጂ ያለው የጋራ ማህደረ ትውስታ ትላልቅ ነገሮችን በሠራተኞች መካከል እንደ ድርድሮች በብቃት ያንቀሳቅሳል፣ ተደጋጋሚ ተከታታይነትን በማስቀረት እና ዳታ የከበደ የኤአይአይ ቧንቧዎችን ፈጣን ያደርጋል።

ስልታዊ ተጽእኖ

ወጪ እና በጀት

የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ.

ግልጽ ውሳኔዎች

የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል።

የጥራት ቁጥጥር

የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ.

ለተከፋፈለ AI የወደፊት የሬይ

ሬይ ትልቅ የቋንቋ ሞዴሎችን በማሰልጠን እና በማገልገል ላይ ለትልቅ AI የጀርባ አጥንት ሆኗል. በኤልኤልኤም-ተኮር አገልግሎት (ሬይ ሰርቪስ ከvLLM)፣ የተለያየ የጂፒዩ መርሐ ግብር፣ ከውሂብ ሀይቆች እና Kubernetes ጋር ጥብቅ ውህደት በኩቤሬይ፣ እና ለሾሉ አመንጪ የስራ ጫናዎች የተሻለ አውቶማቲካሊ እድገትን ይጠብቁ። ሞዴሎች እያደጉ ሲሄዱ፣ የሬይ የባለብዙ መስቀለኛ መንገድ ስልጠናን፣ የ RLHF ቧንቧዎችን እና በሺዎች በሚቆጠሩ አፋጣኞች መካከል ያለውን ልዩነት በማቀናጀት ውስጥ ያለው ሚና ሊሰፋ ይችላል።

የእውነተኛ-ዓለም አተገባበር

ምርጡን የሞዴል ውቅር ለማግኘት በመቶዎች የሚቆጠሩ የሃይፐርፓራሜትር ጥምረቶችን በጂፒዩ ክላስተር ላይ በትይዩ ለመፈለግ Ray Tuneን በማሄድ ላይ

ሬይ ባቡርን በመጠቀም የጥልቅ ትምህርት ሞዴል ስልጠናን በበርካታ ጂፒዩዎች እና ኖዶች በትንሹ የኮድ ለውጦችን ለማሰራጨት።

በክላስተር ውስጥ በሞዴል በኩል በዥረት በመልቀቅ በሚሊዮኖች የሚቆጠሩ መዝገቦችን ለማስቆጠር በሬ ዳታ ባች ኢንፍረንስ ቧንቧ መገንባት

ተለዋዋጭ የምርት ትራፊክን ለማስተናገድ በሬይ ሰርቭ ከአንድ አውቶማቲክ የመጨረሻ ነጥብ ጀርባ ብዙ ሞዴሎችን ማሰማራት

አደጋዎች እና የጥበቃ መንገዶች

አንድ ቤንችማርክን ማሳደግ ሰፋ ያሉ የስርዓት ድክመቶችን ሊደብቅ ይችላል።

የመሠረተ ልማት እና የጥገና ወጪዎች ብዙ ጊዜ ዝቅተኛ ናቸው.

ስርዓቶች ይበልጥ ውስብስብ ሲሆኑ የደህንነት እና የታዛቢነት ክፍተቶች ሊያድጉ ይችላሉ።

የትግበራ ፍኖተ ካርታ

1

ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ።

2

ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች።

3

ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል።

4

ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ።

ማሰስዎን ይቀጥሉ

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Ray for Distributed AI quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

ጥያቄ ጀምር

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

በተደጋጋሚ የሚጠየቁ ጥያቄዎች

What is Ray for Distributed AI?

ሬይ ፓይዘንን እና AI የስራ ጫናዎችን ከላፕቶፕ ወደ በሺዎች በሚቆጠሩ ማሽኖች በቀላሉ ለማመጣጠን የሚያስችል ክፍት ምንጭ ማዕቀፍ ነው። ለእያንዳንዳቸው ኮድዎን እንደገና ሳይጽፉ ስልጠናን፣ ማስተካከያን፣ መረጃን ማቀናበር እና አገልግሎትን ለማሰራጨት ቀላል፣ የተዋሃደ መንገድ ስለሚሰጥ አስፈላጊ ነው።

ሬይ በዋነኝነት የሚፈታው የትኛውን ችግር ነው?

ሬይ ለእያንዳንዱ የስራ ጫና አይነት ኮድዎን ሳይጽፉ በብዙ ማሽኖች ላይ ለማስላት አንድ ወጥ የሆነ ቀላል መንገድ ያቀርባል።

ሬይ ውስጥ፣ በ‘ተግባር’ እና ‘ተዋናይ’ መካከል ያለው ልዩነት ምንድን ነው?

ተግባራት ሀገር አልባ የርቀት ተግባራት በትይዩ የሚሰሩ ሲሆኑ ተዋናዮች ደግሞ እንደ ተጫነ ሞዴል ሁኔታን የሚጠብቁ ረጅም ዕድሜ ያላቸው ነገሮች ናቸው።

የርቀት ሥራ ሲጀምሩ ሬይ ወዲያውኑ ምን ይመለሳል?

ሬይ ቀላል ክብደት ያለው የወደፊት ጊዜ ወዲያውኑ ይመልሳል ስለዚህ ስራው በተመሳሳይ መልኩ ይሰራል; አስፈላጊ ሆኖ ሲገኝ ትክክለኛውን ውጤት ለማምጣት ወደ ray.get() ይደውሉ።

የትኛው የሬይ ቤተ-መጽሐፍት ለተከፋፈለ የሃይፐርፓራሜትር ፍለጋ ተዘጋጅቷል?

ሬይ ቱን ብዙ የሃይፐርፓራሜትር ሙከራዎችን በአንድ ክላስተር በትይዩ በማሄድ ላይ ያተኮረ ነው።

የሬይ ነገር ማከማቻ ዳታ-ከባድ የኤአይአይ ቧንቧዎችን ውጤታማ የሚያደርገው እንዴት ነው?

የተጋራው የማህደረ ትውስታ ዕቃ መደብር ዜሮ-ኮፒ ንባቦችን ስለሚጠቀም ትላልቅ ድርድሮችን ያለ ውድ ድጋሚ ተከታታይነት በሠራተኞች ማግኘት ይቻላል።