Lu xew
Ci benn xëtu ingenieur bu 28 ut 2026, Databricks dafa leeral AI Runtime APIs ngir defar ay liggéey yu mag ci tàggat PyTorch ñu gëna mëna dékku ay jafe-jafe GPU ak ay yu gëna néew. Kompani bi dafay digal ñu séddale ay poñ ngir saytu, denc asynchrone, defaraat otomatik, cache lokal ak prefetching, ak saytu pipeline done ak nekkinu generatëru nimero aleatoire ci wetu poid model yi.
Ginaaw loolu xët wi dafay digal jëfandikoo PyTorch ngir denc asynchrone. Ci jëmmal bii, tàggat yaram dafay fay ab kopi bu gaaw ci ab tampon staging ci diir bi yebbite bi di wéy ci ginaaw. Databricks neena UCVolumeWriter ak UCVolumeReader yu AI Runtime dañuy jëfandikoo NVMe bi ci dëkk bi, ba noppi màndargaal benn poñ bu mat ginaaw bi done yépp yeggee fi ñu jëm. Kon gis-gis bi dafay tàqale barab bi tàggat bi mëna wéy ak liggéeyu dencukaay bi ñuy jeexal, ci noonu lañuy boole liggéeyu dencukaay bi ci barab bi ñuy dem, te baña yam ci kopi bi ci dëkk bi kese. Taxawaay bii dafa am solo ci tegtali posto bi ci tàggat-tolerant ak liggéeyam ci defaraat.
Ci méngale yi liggéeyukaay yi def, benn xeetu làkk DDP bu am 2,8 milyaar ci 32 GPU H100 jël na 36 seconde ak async_save ak 66 seconde ak torch.save, wala 1,8 yoon lu gëna gaaw. Ngir benn model bu am 20 milyaar ci 32 GPU H100, tablo bi dafay wane 9 seconde ak 522 seconde, wala 58 yoon lu gëna gaaw. Resultaa yii dañuy fësal méngale waxtu saytu bi Databricks wane ci model yiñ wax ak aparey yiñ wax. Dañu leen di jox firnde ci njariñu denc asynchrone, fekk ñu des ci configurations ak contexte mesure bi ñu leeral ci post bi.
Post bi dafa wax ni méngale bi du boole ci diiru dencukaay reso torch.save. Boobu kàttan mooy leeral li temps comparaison bi def ak limu deful. Tegtal bi dafa gëna yaatu benn lim gaawaay: checkpointing buñ séddale, denc ci ginaaw, defaraat ci saa si, staging local, cache ak prefetching ñu ngi leen wane ni pàcc yu jëm ci jëmmal. Ci gàttal, leeral yi dañuy wane ni Databricks di lëkkaloo mekanik yi ak jafe-jafe bi nekk ci tëye liggéeyu tàggat bu mag biy toxu ginaaw ay dagg wala joxe ay done yu yeex, te du soppi natt yiñ xamle ci balluwaay bi.
Ay leeral ci cosaan: databricks.com ↗
Lu tax mu am solo
Taggat IA yu bari mën nañu yàq jotu gaawaay bu bari su amee liggéey bu lajj, xaar ay done, wala dellu ci barab bu jaarul yoon ci benn done. Databricks dafay wane natt yu leer yuy wane ni anam wi ñu koy defee mën na yokk waxtu saytu ak nataal-taggat produit, ndigam lim yi liggéeyukaay bi moo ko joxe te mingi aju ci hardware biñ natt, liggéey bi ak yoonu dencukaay bi.
Databricks itam dafay xàmmee risku jubluwaay bu mëna baña jur benn njuumte bu leer. Su amee liggéey buy denc model bi, optimiser ak jéego tàggat waaye du position chargeur de données, tàmbaliwaat mën na baamtu misaal yi ñu jota gis te salte misaal yi ñu baña liggéey. Post bi dafa wax ni tàmbaliwaat yu bari mën na soppi distribution done bu baax te du jur benn njuumte. Kon li gëna am solo mooy li liggéey biñ delloo di def, te baña yam ci xam ndax liggéey bi dina tàmbaliwaat bu baax. Checkpoint mën na nuru luñu mëna jëfandikoo fekk lëkkaloo gi am ci digganté stade de formation biñ denc ak position done yi mattul.
Xeetu saafara yiñ xalaat bokkuna ci enregistrement misaal wala offset shard, serialize position dataset, wala saytu ci ay peggu jamono. Xeetu saafara yii dañuy saafara jafe-jafe yi ci position yi ñu leeral ci post bi, ci def done yi bokk ci réew miñ mëna defaraat. Tanneef bi ci seen biir mingi des ci tegtali jëfandikoo gi Databricks di wane, te li ñuy laaj mooy liggéey buñ delloosi dafa wara tëye lëkkaloo giñ bëggoon am ci diggante yokkuteg tàggat ak yokkuteg done. Lii moo tax posto bi di jëfandikoo done-pipeline checkpointing ni bokk ci njubteg recuperation bi, du nekk detay performance optional.
Mu yokk ci ni shuffle ak jiwwu yu yokk ak nimero-generatër réew yi dañu leen wara denc suko defee dokimaa yuñ delloosi mën nañu ko baamtu. Sanc etaa yooyu dafay yokk checkpoint bi ginaaw poids model yi, leerali optimiser yi ak jéego tàggat yi. Ci kaadaru source bi, reproductibility mingi aju ci baña yàq position chargeur de données bi ak etaa bi yor komànd ak yokk. Li muy tekki ci jëfandikoo gi mooy dañu wara jàngat recuperation bi ngir xam ndax dina wéy ak njub: liggéey bi dafa wara dellusi ci anam wu ñu ko mëna jëfandikoo, ba noppi liggéey bi ñu tàmbaliwaat dafa wara méngoo ak anam wi ñu ko bëggoon denc.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Li nga wara seetaan ci topp
Topp-topp bu am solo bi mooy ndax resultaa yi nekk nañu ci bitti configurations Databricks 'ak ndax APIs yi am nañu ci anam wu leer, njëg ak njiitu liggéey. Jëfandikukat yi dañu wara seet test yu moom seen bopp ci njubteg recuperation, durability checkpoint, cluster resizing ak done-ordre conservation, baña yam ci runs yu gëna gaaw.
Databricks neena DataLoader bi dafay enregistre fetch_seconds ci MLflow, loolu dina tax operatër yi mëna xàmmee ay lots yuy bàyyi GPU yi di xaar. Jawriñ boobu mën na yombal seetlu sistem bi, waaye ci boppam taxul njëg bi gëna néew wala kalite model bi gëna baax. Dafay joxe seetlu ci diiru jël ak GPU bi mëna xaar, fekk njariñ li gëna mag mingi aju ci yeneen yooni tàggat ak dencukaay. Kon metrik bi dafa am njariñ ni siñaal liggéey ci biir sistem biñ nara def, waaye duñu ko joxe ni natt bu mat sëkk ci valeur sistem bi.
Jëfandikukat yi dina ñu soxla kontabilite end-to-end bu ànd ak kàttanu NVMe, tàngoor cache, toxal reso, dencukaay, liggéey bu jaarul yoon, ak njëgu ordinatër bu bépp done buñ ñaareelu wala buñ soppi. Mbir yooyu dañu lëkkale waxtaanu performance ak jafe-jafe jubluwaay bi ñu wax ci kaw. Liggéeyu checkpoint bu gëna gaaw wala yeexal dugal lu gëna am solo duñu, ci seen bopp, saafara laaj yi jëm ci jumtukaay yi, doxalinu defaraat ak jëfandikoo done. Kontabilite bi ñuy laaj dafa wara muur liggéey bi yépp ñu wane ci balluwaay bi, boole ci njëg yi ak jafe-jafe yi toog ci biti waxtu bu benn-benn.
Source bi dafay joxe ab these operationel bu dëgër ak tegtal yu am njariñ ci samp gi, ci noonu mu bàyyi xeetu méngale yu gëna yaatu yooyu te kenn xamul. Kon li am solo ci topp mooy xoolaat configurations yiñ wax, disponibilite ak anam yi ñuy doxalee ci wetu natt yiñ rapoor. Jëfandikukat yi war nañu seet test yu moom seen bopp ci njubteg recuperation, durability checkpoint, cluster resizing ak done-ordre conservation, baña yam ci run yu gëna gaaw. Saytu yooyu dina ñu jàppale ngir xam ndax API yi ñu leeral dañuy joxe benn jeffin ginaaw configurations yi Databricks rapoor, boole ci baña xam lu wóorul li ñu xamme ci source bi.