Résumé
Modèlu làkk yu ndaw yi (SLMs) ay model IA yu kompact lañu, lu ci bari ay téemeeri milioŋ wala ay miliyaar ciy paramet, ñu defar leen ngir ñu mëna dox bu baax ci telefon yi, ordinatër portatif yi ak aparey yi. Dañuy weccoo yenn kàttan yu bees ngir gaawaay, nëbbëtu, ak mëna daw te amul benn santu done.
Small Language Models bokk na ci stack language-IA yi ñuy jëfandikoo ngir jàng, defar, xaaj ak soppi mbind ak wax ci eskaal.
Plongeur bu xóot
Bi nga xamee ni model frontier yi mën nañu am téemeeri milyaar wala trillion ci parametre yi ak racks yu GPU yi, model lakk yu ndaw yi dañuy firndeel ni tàggat bu jaar yoon mën na boole ay performance yu am doole ci benn paquet bu gëna ndaw. Modèle yu melni famiy Phi bu _AIU_PROTECTED_5_, Gemma bu Google, ak xeetu Llama yu gëna ndaw yi dañuy wane ni kalite done yi, du dayo bi kese, mooy dawal kàttan gi. Li yéeme ci gis-gis bi mooy tàggat ci done yu gëna set, yuñ gëna bàyyi xel, dafay tax model bu ndaw mëna xëcc yeneen yu gëna mag ci liggéey yu bari. SLMs yi dañuy tijji IA ci aparey bi: dañuy dox ci ordinatër portable wala smartphone, kon sa done du musa génn ci aparey bi, latency bi dafa néew, te amul njëgu cloud buy laaj. Dina ñu gëna xéewale itam ngir defar ay domen yuñ jagleel. Li ci baax mooy dañu gëna néew luñu am ci xam-xam àdduna bi, te dañu gëna néew doole ci liggéey yi gëna tar ci xalaat suñu ko méngale ak model yu mag yi.
Gis-gis xarala
Xeeti pexe yu bari ñooy tax model yu ndaw yi gëna am njariñ. Distilaasioŋ xam-xam dafay tàggat ndongo bu ndaw ngir toppandoo jàngalekat bu mag, di toxal kàttan ci paramet yu néew. Quantization dafay wàññi njubteg lim ci poid yi, ci misaal joge ci 16-bit dem ba ci 4-bit, di wàññi memory bi ak di gaawlu inference bi te du ñàkk lu bari ci kalite bi. Dagg dafay dindi poids yu bari yi. Lu gëna am solo mooy, done tàggat yu baax, yu segg bu baax, ni ci xeetu Phi yi ñu tàggat ci ëmbiit bu niru ak téere jàngat, dafay tax ñu néew paramet ñu dem fu sori ci li eskaal bu ñor bi kese digle.
Jàngale ay misaali làkk yu ndaw
Modèlu làkk yu ndaw yi (SLMs) ay model IA yu kompact lañu, lu ci bari ay téemeeri milioŋ wala ay miliyaar ciy paramet, ñu defar leen ngir ñu mëna dox bu baax ci telefon yi, ordinatër portatif yi ak aparey yi. Dañuy weccoo yenn kàttan yu bees ngir gaawaay, nëbbëtu, ak mëna daw te amul benn santu done. Small Language Models bokk na ci stack language-IA yi ñuy jëfandikoo ngir jàng, defar, xaaj ak soppi mbind ak wax ci eskaal. Ngir tabax xam-xam bu xóot, jàppal Modeli Làkk yu ndaw yi ni modelu liggéey, du benn man-man: leeral njariñ yi nga bëgg, leeralal xalaat yi, ba noppi tàqale li sistem bi mëna def ci anam wu wóor ak li ba leegi soxla àtteb kàngam.
Ci jëf, ekip yu am doole yiy jëfandikoo Small Language Models dañuy jëmmal ay laaj, seetlu ak xoolaat ay bouclage ni benn sistemu jokkoo buñ boole. Dañuy bind kritër yu leer ngir am ndam, natt leen ci done yu dëggu ak def liggéey, ba noppi ñu baamtu ci anamu ñàkka mëna seetlu, du ci benn yoon benchmark wins. Mooy barab bi xam-xam theorie bi di soppiku nekk kàttan buy yàgg ci produit yi, ci politik yi ak ci liggéey yi.
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi. Ci jamano jooju, mbiri Hallucinated mën nañu dugg ci rapoor yi, jàppale flow yi, wala gëstu yi génne. Xeetu jëf bi gëna dëgër mooy boole gaawaayu jàngat ak disipline nguur: doxal pilote, jàpp firnde, siiwal dogal yi, ak wéy di yeesal kaaraange gi ci anam wi ñuy doxalee, li jëfandikukat bi di xaar, ak sàrti sàrt yi di jëm kanam.
njeextalu pexe
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi.
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Dafay yaatal jëfandikoo gi ci làkk yi ak ci anam yi ñuy jokkoo.
Dafay yaatal jëfandikoo gi ci làkk yi ak ci anam yi ñuy jokkoo. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Ekip yi mën nañu gëna yàgg ci àtte ci jamono ji otomatisation di liggéey ci baamtu.
Ekip yi mën nañu gëna yàgg ci àtte ci jamono ji otomatisation di liggéey ci baamtu. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Doxal ci àdduna dëgg
Doxal ab assistant IA bu amul jokkolante ci ab telefon bu xarañ suko defee ay done yu bopp duñu musa genni ci aparey bi
Tontu bu xarañ ak man-mani tënk yuñ tabax ci biir sistemu jëfandikoo ordinatër portable
Defar ab model bu dëgër ci dokimaa privé yu hopitaal te doo yónnee ay done ci cloud bi
Dugalal ab model bu woyof ci ab aparey IoT wala oto ngir gaaw, digle ci baat
Modèlu jëfandikoo
Royuwaayi làkk yu ndaw ci jëf
Doxal assistant IA bu amul lëkkaloo ci telefon bu xarañ suko defee done yu bopp duñu musa génn ci aparey bi.
Doxal ab assistant IA bu amul lëkkaloo ci benn telefon bu xarañ suko defee ay done yu bopp duñu musa genni aparey bi. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay kalite ci kanam, tëye yoonu eskalaasioŋ nit ngir jafe-jafe yi, ba noppi topp njariñu liggéey ak njëgu njuumte ci diir bu gàtt.
Royuwaayi làkk yu ndaw ci jëf
Tontu bu xarañ ak man-mani tënk yuñ tabax ci biir sistemu operaasioŋ ordinatër portable.
Powering smart-reply ak man-mani resumé yuñ tabax ci sistemu operaasioŋ portable Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bu gàtt.
Royuwaayi làkk yu ndaw ci jëf
Defar ab model bu dëgër ci dokimaa prive yu hopitaal bi te doo yónnee ay done ci cloud bi.
Fine-tuning benn model bu kompact ci dokimaa yu prive yu hopitaal bi te doo yónnee ay done ci cloud Teams yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njëgu njuumte yi ci diir bu gàtt.
Royuwaayi làkk yu ndaw ci jëf
Dugalal benn model bu woyof ci benn aparey wala oto IoT ngir gaaw ci joxe ndigal ci baat.
Dugalal benn model bu woyof ci benn aparey IoT wala oto ngir gaaw, komand yu baat yu dëkk bi Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.
Risk yi ak balustrade yi
Lépp lu jaarul yoon mën na dugg ci rapoor yi, jàppale ci liggéey bi, wala ci njariñu gëstu bi.
Sensibilite bu gaaw mën na jur njariñ yu wuute ci laajte yu noonu mel.
Done yu am solo mën nañu feeñ sudee seytu jëfandikoo gi néew doole.
Roadmap ngir samp gi
Mandargal formaa génne gi, melokaan bi, ak standard kalite yi laata ngay dugal ko.
Mandargal formaa génne gi, melokaan bi, ak standard kalite yi laata ngay dugal ko. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Tontu yu am solo ak balluwaay yu wóor saa yu dëggu bi di am solo.
Tontu yu am solo ak balluwaay yu wóor saa yu dëggu bi di am solo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Fexeel am barabu xool nit ñi ngir am njariñ yu am solo.
Fexeel am barabu xool nit ñi ngir am njariñ yu am solo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Toppal anami gacce yi ak di faral di tàggataat ay laaj wala def-liggéey.
Toppal anami gacce yi ak di faral di tàggataat ay laaj wala def-liggéey. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.