Xiga xigaHagaha xiga
T5 iyo Beddelka Qoraal-u-qoraalka
Luuqadda AI
Luqadda AI HAGAHA
Lakabyada laqabsashadu waa unugyo tababaran oo yaryar oo la geliyo moodal hore loo tababaray, oo kuu ogolaanaya inaad la qabsato hawlo cusub adiga oo cusboonaysiinaya kaliya boqolkiiba dhawr cabbir.
Dhageyso hagahanAI-waa laga sheekeeyay · ~2 min
Waxay ka dhigaan hagaajinta fiicnaan jaban, modular, oo sahlan in la beddelo.
Adapters, oo ay caan ku yihiin Houlsby et al. (2019) wareejinta waxbarashada NLP, wax ka qabashada dhibaatada qaaliga ah: hagaajinta buuxda waxay cusbooneysiisaa miisaan kasta qaab weyn waxayna soo saartaa nuqul cusub oo dhan hawl kasta. Adapter-ku wuxuu beddelkiisa geliyaa shabakado yaryar oo dhalo ah block kasta oo beddelka ah, sida caadiga ah saadaal hoose ilaa cabbir hoose, aan toos ahayn, iyo dib-u-cusbooneysiin, oo ku duudduuban xiriir hadhaaga ah. Inta lagu jiro tababarka miisaanka asalka ah ee hore loo tababaray ayaa barafoobay; Kaliya adaabiyeyaasha (badanaa ka hooseeya 5% wadarta cabbirada) ayaa la bartaa. Tani waxay soo saartaa tayada hagaajinta-buuxa-buuxa ee ugu dhow ee jaangooyooyinka sida GLUE iyadoo la tababarayo cabbirro aad u yar. Sababtoo ah hawl kastaa waxay helaysaa adabtarro yar oo u gaar ah, waxaad kaydin kartaa hal nooc oo saldhig ah iyo qaybo badan oo hawl fudud ah, oo aad isku beddesho ama xitaa dhejiso. Adapters waa xubin aasaasi ah oo ka tirsan qoyska hagaajinta-wax ku oolka leh (PEFT), oo ay weheliso LoRA iyo hagaajinta horgalayaasha.
Ku darida adabtarada u gaarka ah luqadda si hal nooc oo luqado badan ku hadlaa loogu takhasuusiyo, dheh, Sawaaxiliga iyada oo aan dib loo tababarin shabakada oo dhan.
Haynta hal nooc oo saldhig ah oo lagu daray daraasiin yar oo ah adapters macmiil kasta oo ku jira badeecada SaaS, beddelashada midka saxda ah codsi kasta.
Hagaajinta qaabka kala-soocidda dareenka iyadoo la tababarayo oo keliya boqolleyda wax-ka-qabsada, ka dibna saldhigga la wadaago hawlo kale.
Ku dhejinta adabtarada hawsha korka adaabiyaha domainka (tusaale, adabtarada qoraalka-sharciga ah iyo adabtarada soo koobida) ee dib u isticmaalida modular.
Adabiyeyaasha iyo qalabka PEFT ee ballaaran ayaa hadda ah jaangooyooyin loogu habeynayo moodooyinka waaweyn si la awoodi karo, gaar ahaan cabbirrada moodeelka buufinta. Filo korriinka isku dhafka adaabiyeyaasha (isku-darka shaqada ama adapters-ka luqadda qaab qaabaysan, sida AdapterHub), isku xirka adaabiyeyaasha badan marka la eego, iyo shaqsiyeynta aaladda halkaas oo adabiyaha yar uu ku tolo qaabka saldhigga la wadaago isticmaale kasta. Kala duwanaanshaha LoRA ayaa si sii kordheysa ugu sarreeya waxtarka saafiga ah, laakiin fikradda hoose, qaboojinta moodeelka weyn oo tababar fur-in yar, ayaa hadda udub dhexaad u ah sida garoonku u cabbiro habaynta.
Warqad bilaash ah
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Lakabyada laqabsashadu waa unugyo tababaran oo yaryar oo la geliyo moodal hore loo tababaray, oo kuu ogolaanaya inaad la qabsato hawlo cusub adiga oo cusboonaysiinaya kaliya boqolkiiba dhawr cabbir. Waxay ka dhigaan habayn wanaagsan oo raqiis ah, modular ah, oo sahlan in la isku beddelo.
Habaynta adapter-ka waxa ay ilaalisaa qaabka saldhiga baraf oo waxa ay bartaa oo kaliya qaybaha yaryar ee la geliyo.
Adapter-ka caadiga ah wuxuu xaalada qarsoon ku tuujiyaa cabbir hoose, wuxuu dabaqaa wax aan toos ahayn, mashaariic dib buu u soo celinayaa, wuxuuna ku darayaa isku xidhka boodada.
Adapters caadi ahaan waxay ku daraan oo ay tababaraan kaliya dhawr boqolkiiba wadarta cabbirada moodeelka, oo aad uga yar hagaajinta buuxda.
Sababtoo ah hawl kastaa waxay u baahan tahay oo kaliya adabtarada yar, hal nooc oo saldhig ah oo la wadaago ayaa u adeegi kara hawlo badan iyadoo la isku beddelayo cutubyada fudud.
Adapters waa habka PEFT ee xudunta u ah, oo ay weheliyaan habab sida LoRA iyo hagaajinta horgalayaasha.
Sii wad waxbarashada
Tilmaamayaal badan ayaa loo doortay mawduucan
Xiga xigaHagaha xiga
T5 iyo Beddelka Qoraal-u-qoraalka
Luuqadda AI