Matofali ya data yanaonyesha zana za mafunzo zinazostahimili makosa PyTorch kwa AI Runtime

Nini kilitokea

Katika chapisho la uhandisi la Agosti 28, 2026, Databricks ilielezea API za AI Runtime kwa ajili ya kufanya kazi kubwa za mafunzo za PyTorch kustahimili zaidi kushindwa kwa GPU na mabomba ya kuingiza data polepole. Kampuni inapendekeza sehemu za ukaguzi zilizosambazwa, hifadhi zisizolingana, uokoaji kiotomatiki, uakibishaji wa ndani na kuleta mapema, na kukagua bomba la data na hali ya jenereta ya nambari nasibu pamoja na uzani wa mfano.

Chapisho basi linapendekeza operesheni ya uokoaji ya PyTorch ya asynchronous. Katika muundo huu, mafunzo hulipia nakala ya haraka katika bafa ya jukwaa huku upakiaji ukiendelea chinichini. Databricks inasema UCVolumeWriter ya AI Runtime na UCVolumeReader hutumia mpangilio wa ndani wa NVMe na kuweka alama kwenye kituo cha ukaguzi baada tu ya data yote kufika inakoenda. Kwa hivyo mbinu hiyo inatenganisha mahali ambapo mafunzo yanaweza kuendelea kutoka kukamilika baadaye kwa kazi ya kuhifadhi, huku bado ikiunganisha kukamilika kwa kituo cha ukaguzi kwenye lengwa badala ya nakala ya ndani tu. Tofauti hii ni msingi wa maelezo ya chapisho la mafunzo yanayostahimili makosa na mtiririko wake wa urejeshaji.

Katika ulinganisho ulioripotiwa na kampuni, muundo wa lugha ya DDP wa vigezo bilioni 2.8 kwenye GPU 32 H100 ulichukua sekunde 36 kwa async_save dhidi ya sekunde 66 kwa torch.save, au kasi mara 1.8. Kwa muundo wa kigezo cha bilioni 20 kwenye GPU 32 za H100, jedwali linaripoti sekunde 9 dhidi ya sekunde 522, au kasi mara 58. Takwimu hizi zinaelezea ulinganisho wa wakati wa ukaguzi uliowasilishwa na Databricks kwa miundo na maunzi yaliyotajwa. Zinatolewa kama ushahidi wa thamani ya uokoaji usiolingana, huku zikisalia kuhusishwa na usanidi na muktadha wa kipimo uliofafanuliwa katika chapisho.

Chapisho linasema ulinganisho huo haujumuishi muda wa hifadhi ya mtandao wa torch.save. Sifa hiyo inafafanua kile ambacho ulinganisho wa wakati ulioripotiwa hufanya na haujumuishi. Kwa hivyo pendekezo ni pana kuliko kielelezo cha kasi moja: ukaguzi uliosambazwa, uhifadhi wa chinichini, urejeshaji kiotomatiki, uwekaji picha wa ndani, akiba na uletaji mapema huwasilishwa kama sehemu zinazohusiana za muundo wa uthabiti. Kwa pamoja, maelezo yanaonyesha jinsi Databricks huunganisha mitambo ya ukaguzi na tatizo la kiutendaji la kuweka kazi kubwa ya mafunzo ikisogea baada ya kukatizwa au uwasilishaji wa polepole wa pembejeo, bila kubadilisha vipimo vilivyoripotiwa kwenye chanzo.

Maelezo ya chanzo: databricks.com ↗

Kwa nini ni muhimu

Uendeshaji mkubwa wa mafunzo ya AI unaweza kupoteza muda mwingi wa kuongeza kasi wakati kazi itafeli, kusubiri data, au kuanza tena kutoka mahali pasipofaa katika mkusanyiko wa data. Databricks huwasilisha vipimo mahususi vinavyopendekeza kuwa mbinu yake inaweza kuboresha muda wa ukaguzi na matokeo ya mafunzo ya picha, ingawa takwimu zinaripotiwa na kampuni na hutegemea maunzi yaliyojaribiwa, mzigo wa kazi na njia ya kuhifadhi.

Databricks pia hutambua hatari ya usahihi ambayo inaweza isitoe hitilafu dhahiri. Ikiwa kazi itahifadhi kielelezo, kiboreshaji na hatua ya mafunzo lakini si nafasi ya kipakiaji data, kuwasha upya kunaweza kurudia mifano ambayo tayari imeonekana na kuruka mifano ambayo ilikuwa bado haijachakatwa. Chapisho linasema kuwa kuanza tena mara kwa mara kunaweza kubadilisha usambazaji bora wa data bila kutoa hitilafu. Kwa hivyo, wasiwasi ni juu ya michakato gani ya kazi iliyorejeshwa, sio tu ikiwa kazi itaanza tena kwa mafanikio. Sehemu ya ukaguzi inaweza kuonekana kuwa ya kutumika wakati uhusiano kati ya hali ya mafunzo iliyohifadhiwa na nafasi ya data haujakamilika.

Masuluhisho yake yanayopendekezwa ni pamoja na kurekodi sampuli au vipunguzio vya shard, kusawazisha nafasi ya seti ya data, au ukaguzi katika mipaka ya zama. Marekebisho haya yanashughulikia maelezo ya nafasi yanayokosekana yaliyofafanuliwa katika chapisho kwa kufanya bomba la data kuwa sehemu ya hali inayoweza kurejeshwa. Chaguo kati yao linasalia ndani ya mwongozo wa utekelezaji unaowasilishwa na Databricks, na hitaji la msingi ni kwamba kazi iliyorejeshwa ihifadhi uhusiano uliokusudiwa kati ya maendeleo ya mafunzo na maendeleo ya mkusanyiko wa data. Hii ndiyo sababu chapisho hushughulikia ukaguzi wa bomba la data kama sehemu ya usahihi wa urejeshaji badala ya kama maelezo ya hiari ya utendakazi.

Inasema zaidi mbegu za kuchanganya na kuongeza na majimbo ya jenereta ya nambari nasibu lazima zihifadhiwe ili agizo la data lililorejeshwa liendelee kuzalishwa tena. Kuokoa majimbo hayo huongeza sehemu ya ukaguzi zaidi ya uzani wa mfano, maelezo ya kiboreshaji na hatua ya mafunzo. Katika uundaji wa chanzo, uzalishaji upya unategemea kuhifadhi nafasi ya kipakiaji data pamoja na hali inayosimamia kuagiza na kuongeza. Maana ya vitendo ni kwamba urejeshaji unapaswa kutathminiwa kwa mwendelezo na usahihi: kazi lazima irudi katika hali inayoweza kutumika, na uchakataji unaorudiwa lazima uonyeshe hali ambayo ilikusudiwa kuokolewa.

Nini cha kutazama baadaye

Ufuatiliaji muhimu ni kama matokeo haya yanashikilia usanidi uliobainishwa wa Databricks na kama API zinapatikana kwa upana na upatanifu wazi, bei na mwongozo wa uendeshaji. Watumiaji wanapaswa pia kutafuta majaribio huru ya usahihi wa urejeshaji, uimara wa sehemu ya ukaguzi, kubadilisha ukubwa wa nguzo na uhifadhi wa agizo la data, sio tu uendeshaji wa haraka wa alama.

Databricks inasema rekodi zake za DataLoader fetch_seconds katika MLflow, ikiwapa waendeshaji njia ya kutambua makundi ambayo yanaacha GPU zikisubiri. Kipimo hicho kinaweza kurahisisha utambuzi wa mfumo, lakini peke yake haiainishi gharama ya chini kabisa au ubora bora wa muundo. Inatoa angalizo kuhusu muda wa kuleta na uwezekano wa kusubiri wa GPU, huku matokeo makubwa yanategemea njia iliyosalia ya mafunzo na uhifadhi. Kwa hivyo kipimo ni muhimu kama mawimbi ya uendeshaji ndani ya mfumo unaopendekezwa, lakini hakiwakilishwi kama kipimo kamili cha thamani ya mfumo.

Watumiaji watahitaji uhasibu wa mwanzo hadi mwisho unaojumuisha uwezo wa ndani wa NVMe, uboreshaji wa kache, uhamisho wa mtandao, gharama za kuhifadhi, marudio ya kazi ambayo haikufaulu na gharama ya hesabu ya data yoyote ya mafunzo iliyorudiwa au iliyobadilishwa. Mawazo hayo yanaunganisha mjadala wa utendaji na suala la usahihi lililoelezwa hapo juu. Shughuli ya haraka ya ukaguzi au ucheleweshaji unaoonekana zaidi wa ingizo haungeweza, peke yake, kutatua maswali kuhusu rasilimali, tabia ya urejeshaji na utunzaji wa data. Uhasibu ulioombwa unapaswa kugharamia mtiririko kamili wa kazi unaowakilishwa katika chanzo, ikijumuisha gharama na madoido ambayo yapo nje ya muda maalum wa kuigwa.

Chanzo hutoa nadharia dhabiti ya utendakazi na mwongozo muhimu wa utekelezaji, huku ukiacha ulinganisho huo mpana haujulikani. Ufuatiliaji muhimu kwa hiyo ni kuchunguza usanidi uliobainishwa, upatikanaji na hali ya uendeshaji pamoja na vipimo vilivyoripotiwa. Watumiaji wanapaswa kutafuta majaribio huru ya usahihi wa urejeshaji, uimara wa sehemu ya ukaguzi, kubadilisha ukubwa wa nguzo na uhifadhi wa agizo la data, sio tu uendeshaji wa haraka wa alama. Ukaguzi huo ungesaidia kubaini ikiwa API zilizofafanuliwa hutoa tabia sawa zaidi ya ripoti za Mipangilio ya Databricks, huku zikihifadhi kutokuwa na uhakika kutambuliwa katika chanzo.

Miongozo & maswali yanayohusiana