Résumé
Modal platform cloud la bu amul serwër buy may developpeur yi ñu mëna doxal kodu Python, boole ci ay liggéey GPU, ci cloud bi ci yokk dekoratër ci benn fonction. Dafa am solo ndax dafay dindi metit wi ci konteneer yi, infrastructure yi, ak scaling suko defee IA ak ekipu done yi mëna joxe ay model ak ay liggéey ci ay simili.
Modal Labs ñu ngi koy gëna xamee ci wàllu pexe, jëfandikoo model, dogal ci platform, ak jàppante ci ecosystem.
Plongeur bu xóot
Erik Bernhardsson (ki defar bibliotek Annoy bu Spotify ak Luigi) ak Akshat Bubna ñoo ko sos ci 2021, Modal mingi xool bërëb bi am ci diggante defarkat yi ak jaar-jaar yi ci jumtukaayi ML. Yaa ngi leeral sa environmaa bi, say dependence, ak sa hardware ci Python, Modal dafay tabax ay konteneer, joxe CPU wala GPU, ba noppi doxal sa kode ci laaj, yokk ko ba téemeeri konteneer ba noppi wàcci ba zero. Man-manam bi gëna fës mooy container runtime ak sistem fichier buñ defar ngir tàmbali sedd ci diir bu gàtt, muy luy metti lool ci serverless. Modal siiw na lool ci poñ yu mujj yi ci model, ajustement bu baax, defar ay liggéey yuñ waajal (cron), ak poñ yu mujj ci web bi. Facturation bi ci seconde la ci ordinatër biñ jëfandikoo. Dafay joŋante ak AWS Lambda, SageMaker, ak Runpod ci wàllu xalaat, waaye dafay fësal kode bu njëkk, def liggéeyu Pythonic.
Gis-gis xarala
Li gëna am solo ci liggéeyu ingenieur Modal mooy tàmbali sedd bu gaaw: dafa tabax benn stack conteneur buñ personaalise bu baax ak sistem fichier buy yab lu tàyyeel suko defee conteneur yi mëna wëréelu ci ay segond, du ci ay simili, doonte model yi dañu yaatu. Developpeur yi dañuy leeral nataal yi ak li ñuy laaj ci GPU ci kod; Modal snapshots ak cache yooyu, ba noppi autoscales replicas conteneur ngir méngoo ak charge biy dugg ak scales ba zero sudee idle, kon dangay fay ci ordinatër bi nga jëfandikoo.
Labs Modal
Modal platform cloud la bu amul serwër buy may developpeur yi ñu mëna doxal kodu Python, boole ci ay liggéey GPU, ci cloud bi ci yokk dekoratër ci benn fonction. Dafa am solo ndax dafay dindi metit wi ci konteneer yi, infrastructure yi, ak scaling suko defee IA ak ekipu done yi mëna joxe ay model ak ay liggéey ci ay simili. Modal Labs ñu ngi koy gëna xamee ci wàllu pexe, jëfandikoo model, dogal ci platform, ak jàppante ci ecosystem. Ngir tabax xam-xam bu xóot, jàppal Modal Labs ni xeetu liggéey, du benn man-man: leeral njariñ yi nga bëgg, leeral xalaat yi, ba noppi tàqale li sistem bi mëna def ci anam wu wóor ak li ba leegi soxla àtteb kàngam.
Ci jëf, ekip yu am doole yiy jëfandikoo Modal Labs dañuy jàngat pexem jaaykat yi, wóorum kàrtu yoon wi, ak risku tëjug balaa ñuy jël dogal. Dañuy bind kritër yu leer ngir am ndam, natt leen ci done yu dëggu ak def liggéey, ba noppi ñu baamtu ci anamu ñàkka mëna seetlu, du ci benn yoon benchmark wins. Mooy barab bi xam-xam theorie bi di soppiku nekk kàttan buy yàgg ci produit yi, ci politik yi ak ci liggéey yi.
Kartu yoonu jaaykat yi ñooy wane man-man yi sa ekip mëna tabax ci kanam. Ci jamano jooju, annonce lansma yi mën nañu raw stabilite ci liggéeyu production dëgg. Xeetu jëf bi gëna dëgër mooy boole gaawaayu jàngat ak disipline nguur: doxal pilote, jàpp firnde, siiwal dogal yi, ak wéy di yeesal kaaraange gi ci anam wi ñuy doxalee, li jëfandikukat bi di xaar, ak sàrti sàrt yi di jëm kanam.
njeextalu pexe
Kartu yoonu jaaykat yi ñooy wane man-man yi sa ekip mëna tabax ci kanam.
Kartu yoonu jaaykat yi ñooy wane man-man yi sa ekip mëna tabax ci kanam. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Anamu jënd ak jaay ak tànneefi dugal dañu am njeexital ci njëg ak risk ci diir bu xawa yàgg.
Anamu jënd ak jaay ak tànneefi dugal dañu am njeexital ci njëg ak risk ci diir bu xawa yàgg. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Li liggéeyukaay bi di ñaax mooy tëral ni produit bi di doxee, kaaraange gi ak ubbeeku gi.
Li liggéeyukaay bi di ñaax mooy tëral ni produit bi di doxee, kaaraange gi ak ubbeeku gi. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Doxal ci àdduna dëgg
Developpeur bi dafay boole fonction defar nataal ak dekoratër Modal ba noppi ci saasi mu am endpoint web bu GPU jàppale ci autoscaling.
Benn ekipu done dafay doxal guddi gu nekk ci ay junni fichier yu jëfandikoo oraaru cron ak parallelism fan-out bu Modal.
Ab startup IA defay defar ab model bu ubbeeku ci GPUs Modal, di fay seconde bu nekk te di escaleer ba zero su liggey bi jeexe.
Benn platform agent dafay jëfandikoo sandbox Modal ngir mëna def ci anam wu wóor kode bu IA defar ci biir ay conteneur yuñ tàqale.
Modèlu jëfandikoo
Labs Modal ci jëf
Developpeur bi dafay boole fonction defar nataal ak dekoratër Modal ba noppi ci saasi mu am endpoint web bu GPU jàppale ci autoscaling.
Developpeur bi dafay jël benn fonction buy defar nataal ak dekoratër Modal, ci saasi mu am benn endpoint web bu GPU-backed autoscaling. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njëgu njuumte yi ci diir bi.
Labs Modal ci jëf
Benn ekipu done dafay doxal guddi gu nekk ci ay junni fichier yu jëfandikoo oraaru cron ak parallelism fan-out bu Modal.
Benn ekipu done dafay doxal guddi gu nekk ci ay junni fichier yu jëfandikoo Modal's cron scheduling ak fan-out parallelism. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njëgu njuumte yi ci diir bi.
Labs Modal ci jëf
Ab startup IA defay defar ab model bu ubbeeku ci GPUs Modal, di fay seconde bu nekk te di escaleer ba zero su liggey bi jeexe.
Ab ndoorte IA defay defar ab xeetu ubbeeku ci GPUs Modal, di fay ci segond bu nekk ak eskaliseer ba zero su liggéey bi jeexe. Ekip yi deñuy faral di am njariñ yu gëna baax suñu joxe ay poñ yu kalite ci kanam, tëye yoonu eskalaasioŋ bu nit ngir jafe jafe yi, ba noppi topp njariñu liggéey bi ak njëgu njuumte yi ci diir bi.
Labs Modal ci jëf
Benn platform agent dafay jëfandikoo sandbox Modal ngir mëna def ci anam wu wóor kode bu IA defar ci biir ay conteneur yuñ tàqale.
Benn platform agent dafay jëfandikoo sandboxes Modal ngir mëna def ci anam wu wóor, kode bu IA defar ci ay konteneer yu wuute. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bu gàtt.
Risk yi ak balustrade yi
Koom-koomu ubbite mën na raw stabilite ci def liggéeyu defar dëgg.
Njëg yi ci API wala coppite ci sàrt yi mën nañu dindi xalaat yi ci guddi gi.
Dependence ci benn jaaykat dafay yokk njëgu tëjug ak migraasioŋ.
Roadmap ngir samp gi
Saytu sa fournisseur yi nga jëfandikoo sa liggéey ak say done.
Saytu sa fournisseur yi nga jëfandikoo sa liggéey ak say done. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Xoolaat mbir yu nëbbu, kaaraange ak sàrti yoon balaa ngay boole.
Xoolaat mbir yu nëbbu, kaaraange ak sàrti yoon balaa ngay boole. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Fexe am palaŋu fallback ci model yi wala jaaykat yi.
Fexe am palaŋu fallback ci model yi wala jaaykat yi. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Xool notu génne yi suko defee coppite yi ci kàrtu yoon du jaaxal ekip yi.
Xool notu génne yi suko defee coppite yi ci kàrtu yoon du jaaxal ekip yi. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.