Imọ Itọsọna
Ray fun Pinpin AI
Ray jẹ ilana orisun-ìmọ ti o jẹ ki o rọrun lati ṣe iwọn Python ati awọn iṣẹ ṣiṣe AI lati kọǹpútà alágbèéká kan si iṣupọ ẹgbẹẹgbẹrun awọn ẹrọ.
Gbọ si itọsọna yiiAI-ṣe afihan · ~2 min
Lori iwe yi2 min ka
Akopọ
It matters because it gives a simple, unified way to distribute training, tuning, data processing, and serving without rewriting your code for each.
Jin Dive
Ero mojuto Ray ni titan awọn iṣẹ Python lasan ati awọn kilasi sinu awọn ipin pinpin pẹlu iyipada kekere. Iṣẹ kan ti a samisi bi 'iṣẹ' latọna jijin nṣiṣẹ ni asynchronously lori eyikeyi oṣiṣẹ ninu iṣupọ; kilasi ti a samisi bi 'oṣere' latọna jijin di iṣẹ ti ipinlẹ ti o ngbe lori oṣiṣẹ kan. Ray da awọn ọjọ iwaju iwuwo fẹẹrẹ pada (awọn itọkasi nkan) ati mimu ṣiṣe ṣiṣe ṣiṣe, gbigbe data nipasẹ ile itaja ohun kan ti o pin, ati ifarada ẹbi. Lori oke ti awọn ile-ikawe ti a ṣe idi idi pataki yii: Ray Train fun ikẹkọ awoṣe pinpin, Ray Tune fun wiwa hyperparameter, Ray Data fun ṣiṣan data pipelines, RLlib fun ẹkọ imuduro, ati Ray Sin fun iṣẹ awoṣe iwọn. Eyi jẹ ki iṣupọ kan mu gbogbo ṣiṣiṣẹsẹhin ML kan lati opin si ipari.
Real-World imuse
Ṣiṣe Ray Tune lati wa awọn ọgọọgọrun awọn akojọpọ hyperparameter ni afiwe kọja iṣupọ GPU kan lati wa iṣeto awoṣe to dara julọ
Lilo Ray Train lati kaakiri ikẹkọ ti awoṣe ẹkọ ti o jinlẹ kọja ọpọlọpọ awọn GPUs ati awọn apa pẹlu awọn iyipada koodu iwonba
Ṣiṣe opo gigun ti epo-ipin pẹlu Ray Data lati ṣe Dimegilio awọn miliọnu awọn igbasilẹ nipa ṣiṣanwọle wọn nipasẹ awoṣe kan kọja iṣupọ kan
Gbigbe awọn awoṣe lọpọlọpọ lẹhin aaye ipari autoscaling kan pẹlu Ray Serve lati mu ijabọ iṣelọpọ oniyipada
Ojo iwaju ti Ray fun AI pinpin
Ray ti di eegun ẹhin fun AI iwọn-nla, ni pataki ti a lo ninu ikẹkọ ati ṣiṣe awọn awoṣe ede nla. Reti idagbasoke ni iṣẹ-iṣẹ LLM-pato (Ray Serve pẹlu vLLM), ṣiṣe eto GPU oriṣiriṣi, isọpọ titọ pẹlu awọn adagun data ati Kubernetes nipasẹ KubeRay, ati adaṣe adaṣe ti o dara julọ fun awọn iṣẹ ṣiṣe ipilẹṣẹ spiky. Bi awọn awoṣe ti ndagba, ipa Ray ni ṣiṣe adaṣe ikẹkọ ọpọ-opopona, awọn opo gigun ti epo RLHF, ati itọkasi ipele kọja ẹgbẹẹgbẹrun awọn accelerators ṣee ṣe lati faagun.
Fifi o sinu iwa
Kini idi ti o ṣe pataki
- Iye owo ati isuna. Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.
- Awọn ipinnu diẹ sii. Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.
- Iṣakoso didara. Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.
Ṣọra fun
- Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.
- Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.
- Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.
Next awọn igbesẹ
- Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.
- Aṣepari labẹ ẹru ojulowo ati awọn ipo data.
- Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.
- Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.
Tesiwaju Ṣiṣawari
Ìwé ìròyìn ọfẹ
Gba ìkànìyàn AI ojoojúmọ́
Ìtàn AI mẹta tó jẹ́rìí ní gbogbo owurọ́ ọjọ́ iṣẹ́, kọ́wé ní Gẹ̀ẹ́sì tó rọrùn. Ọfẹ́ fún gbogbo àkókò, kò sí ìpolówó.
Ìmeèlì kan ní gbogbo ọjọ́ iṣẹ́. Yọkúrò ní ìkànìyàn ní ìkànìyàn kan. A kò ta tàbí pín àdírẹ́sì rẹ.
Ṣe idanwo fun ara rẹ
Take the Ray for Distributed AI quiz
Ìdáhùn lẹ́sẹ̀kẹsẹ̀ lórí gbogbo ìdáhùn, àti iwe-ẹ̀rí tó lè pin pẹ̀lú ID tó lè jẹ́rìí lẹ́yìn tí o bá kọ́ ẹ̀kọ́.
Ṣe àtìlẹ́yìn ẹ̀kọ́ AI ọfẹ́. AI Understanding jẹ́ àjọ àìní èrè 501(c)(3) — kò sí ìpolówó, kò sí àkúnya owó, ní gbogbo àkókò. Ṣe ẹbun kan
Awọn ibeere ti a beere nigbagbogbo
What is Ray for Distributed AI?
Ray jẹ ilana orisun-ìmọ ti o jẹ ki o rọrun lati ṣe iwọn Python ati awọn iṣẹ ṣiṣe AI lati kọǹpútà alágbèéká kan si iṣupọ ẹgbẹẹgbẹrun awọn ẹrọ. O ṣe pataki nitori pe o funni ni ọna ti o rọrun, ti iṣọkan lati kaakiri ikẹkọ, iṣatunṣe, sisẹ data, ati ṣiṣe laisi atunkọ koodu rẹ fun ọkọọkan.
Isoro wo ni Ray nipataki yanju?
Ray n pese ọna iṣọkan, ọna ti o rọrun lati pin kaakiri iṣiro kọja ọpọlọpọ awọn ero laisi atunkọ koodu rẹ fun iru fifuye iṣẹ kọọkan.
Ni Ray, kini iyatọ laarin 'iṣẹ-ṣiṣe' ati 'oṣere' kan?
Awọn iṣẹ-ṣiṣe jẹ awọn iṣẹ isakoṣo latọna jijin ti orilẹ-ede nṣiṣẹ ni afiwe, lakoko ti awọn oṣere jẹ awọn ohun elo pipẹ ti o tọju ipo, bii awoṣe ti kojọpọ.
Kini Ray pada lẹsẹkẹsẹ nigbati o ṣe ifilọlẹ iṣẹ-ṣiṣe latọna jijin?
Ray pada a lightweight ojo iwaju lẹsẹkẹsẹ ki iṣẹ nṣiṣẹ asynchronously; o pe ray.get () lati gba esi gangan nigba ti o nilo.
Iru ile-ikawe Ray wo ni a ṣe fun wiwa hyperparameter pinpin?
Ray Tune ṣe amọja ni ṣiṣiṣẹ ọpọlọpọ awọn idanwo hyperparameter ni afiwe kọja iṣupọ kan.
Which object type do Ray’s docs explicitly say can be read from same-node object-store memory without a copy?
Ray documents zero-copy reads for NumPy arrays stored in the object store when workers on the same node access them. Other values may require deserialization, and data requested across nodes must be transferred.
Tesiwaju kikọ
Jẹmọ awọn itọsọna
Awọn itọsọna diẹ sii ti a yan fun koko yii