HAGAHA Luqadda AI

Mamba iyo Goobo Dawladeed oo Xul ah

Mamba waa moodal taxane ah oo lagu dhisay moodooyinka gobolka (SSMs) kaas oo ku socodsiiya qoraalka waqti toos ah, oo bixisa beddel degdeg ah oo loogu talagalay dareenka afargeesoodka ah ee Transformer.

Dulmar

Mamba waa moodal taxane ah oo lagu dhisay moodooyinka gobolka (SSMs) kaas oo ku socodsiiya qoraalka waqti toos ah, oo bixisa beddel degdeg ah oo loogu talagalay dareenka afargeesoodka ah ee Transformer. Xeeladdeeda ugu muhiimsan waa samaynta qaabka si uu u go'aamiyo waxa la xasuusan karo oo la iloobo iyada oo ku saleysan gelinta lafteeda.

Mamba iyo Meelo Dawladeed oo Xul ah waa qayb ka mid ah xidhmada luuqadda-AI ee loo isticmaalo in lagu akhriyo, lagu abuuro, lagu kala saaro, oo lagu beddelo qoraalka iyo hadalka cabbir ahaan.

quusitaanka qoto dheer

Mamba, oo ay soo bandhigeen Albert Gu iyo Tri Dao dabayaaqadii 2023, waxa lagu dhisay moodallo meel dawladeed oo habaysan. SSM-ga caadiga ah waxa uu ku cadaadiyaa dhammaan taariikhda taxanaha oo dhan xaalad qarsoon oo cabbir go'an waxaanu u cusbooneysiiyaa talaabo talaabo, sida shabakad soo noqnoqota oo casri ah. Horumarku waa xulashada: Mamba waxay ka dhigtaa cabbirada SSM (inta la hayo, inta lagu sii daayo) waxay ku xidhan tahay calaamadda hadda jirta, sidaa darteed moodalku wuxuu diiradda saari karaa erayada ku habboon oo uu iska indhatiro buuxinta. Tani waxay u oggolaanaysaa hal gobol oo cabbir go'an inuu u dhaqmo sida xusuusta xog-ogaalka ah. Sababtoo ah waxay ka fogaanaysaa isbarbardhigga calaamad kasta oo kale, Mamba waxay si toos ah u miisaamaysaa dhererka isku xigxiga waxayna ku adkaysataa wax qabadyada aadka u dheer sida genomes, maqalka, ama qoraalka dhererka buugga.

Aragtida Farsamada

Qaabka booska dawladu waxa uu khariidad ka dhigayaa isku xigxiga wax soo saarka iyada oo loo marayo nidaam toosan oo joogto ah oo lagu qeexay matries A, B, C iyo cabirka delta cabirka. SSM-yadii hore waxay hayeen kuwan go'an, taas oo u oggolaanaysa aragti isku dhafan oo degdeg ah. Mamba waxay ka dhigtaa B, C, iyo hawlaha delta ee gelinta, kaas oo jebiya marin-gaabeedka convolution, markaa taa beddelkeeda waxay isticmaashaa sawir isbarbar-bar-bar-bar-bar-dhig ah oo hardware-ogyahay oo lagu hayo GPU SRAM degdeg ah si uu u soo kabsado xawaaraha iyadoo la helayo xusuusta ku-tiirsanaanta.

Aqoonta Mamba iyo Goobaha Gobolka ee Xulashada

Mamba waa moodal taxane ah oo lagu dhisay moodooyinka gobolka (SSMs) kaas oo ku socodsiiya qoraalka waqti toos ah, oo bixisa beddel degdeg ah oo loogu talagalay dareenka afargeesoodka ah ee Transformer. Xeeladdeeda ugu muhiimsan waa samaynta qaabka si uu u go'aamiyo waxa la xasuusan karo oo la iloobo iyada oo ku saleysan gelinta lafteeda. Mamba iyo Meelo Dawladeed oo Xul ah waa qayb ka mid ah xidhmada luuqadda-AI ee loo isticmaalo in lagu akhriyo, lagu abuuro, lagu kala saaro, oo lagu beddelo qoraalka iyo hadalka cabbir ahaan. Si loo dhiso faham qoto dheer, ula dhaqan Mamba iyo Goobaha Gobolka Xulashada qaab hawleed, ma aha hal sifo: qeex natiijooyinka la rabo, cadee fikradaha, oo kala saar waxa nidaamku si kalsooni leh u qaban karo iyo waxa weli u baahan go'aan khabiir.

Ficil ahaan, kooxo xoog leh oo isticmaalaya Mamba iyo Spaces State Spaces naqshadeynta, soo celinta, iyo dib u eegista wareegyada sida hal nidaam isgaarsiin isku dhafan. Waxay diiwaangeliyaan shuruudaha guusha ee cad, tijaabiyaan xogta dhabta ah iyo qulqulka shaqada, waxayna ku celceliyaan ku saleysan qaababka guul darrida ee la arkay halkii ay hal mar ku guuleysan lahaayeen halbeegyada. Tani waa halka fahamka aragtida uu isu beddelo karti waara oo dhan badeecada, siyaasadda, iyo hawlgallada.

Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta. Isla mar ahaantaana, xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, socodka taageerada, ama natiijooyinka cilmi-baarista. Habka ugu adkeysi badan waa in la isku daro xawaaraha tijaabada iyo anshaxa maamulka: socodsiinta duuliyayaasha, qabashada caddaynta, daabacaadda go'aanka, iyo si joogto ah u cusboonaysii ilaalinta sida habdhaqanka moodeelka, filashada isticmaale, iyo shuruudaha sharciyaynta.

Saamaynta Istiraatijiyadeed

Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.

Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.

Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.

Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta. Hawlgelinta tayada sare leh, tan waxaa loo tarjumaa shuruuc hawleed la cabbiri karo, xuduudaha lahaanshaha, iyo caadooyinka dib u eegista soo noqnoqda si kooxuhu ay u cabbiraan kalsoonida halkii ay ka saari lahaayeen madmadowga.

Mustaqbalka Mamba iyo Goobaha Gobolka ee Xulashada

Mamba iyo ku-xigeenkiisa Mamba-2 waxay ku riixayaan naqshadaha isku-dhafka ah ee ka dhexeeya dhowr lakab oo taxadar leh oo leh lakabyo badan oo SSM ah, iyaga oo qabsanaya xoogga labadaba. Ka filo SSM-yada kaaliyeyaasha muddada-dheer, moodooyinka aaladda halkaasoo xusuusta xaddidan tahay, iyo meelaha aan qoraalka ahayn sida DNA iyo maqal. Cilmi-baadhistu waxay eegaysaa in SSM-yada saafiga ah ay ku habboonaan karaan Transformers-ka hawlaha u baahan dib-u-celinta saxda ah, iyo haddii ay cabbiraan cabbirrada moodeelka ugu weyn.

Dhaqangelinta Adduunka-dhabta ah

Nashqadeynta taxanaha DNA-da aadka u dheer ee Transformers-ka malaayiinta ah ay aad qaali u yihiin

Awood siinta caawiyayaasha luqadda macnaha dheer oo soo koobaya buugaagta oo dhan iyada oo aan la jarin

Jiilka maqalka ee wakhtiga-dhabta ah iyo qaabaynta hadalka kaas oo u habeeya qaab-dhismeedka mowjadaha cayriin si hufan

Meelaynta qalabka ama geesaha halkaasoo xaalad yar oo cabbir go'an oo soo noqnoqota ay kaydiso xusuusta iyo kaydka dareenka sii kordhaya

Hababka Dhaqangelinta

Mamba iyo Goobaha Gobolka ee la xushay ee ficil ahaan

Nashqadeynta taxanaha DNA-da aadka u dheer ee Transformers-ka malaayiinta ah ay aad qaali u yihiin.

Nashqadaynta taxanaha DNA-da ee aadka u dheer halkaas oo Transformers million-token ay aad qaali u yihiin Kooxuhu waxay inta badan helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, waxay hayaan dariiqa kor u kaca bini'aadamka ee kiisaska cirifka ah, iyo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada qaladka waqti ka dib.

Mamba iyo Goobaha Gobolka ee la xushay ee ficil ahaan

Awood siinta caawiyayaasha luqadda macnaha dheer oo soo koobaya buugaagta oo dhan iyada oo aan la jarin.

Awoodda kaaliyeyaasha luqadda muddada-dheer ee soo koobaya buugaagta oo dhan iyada oo aan la gooyn Kooxuhu waxay badanaa helaan natiijooyin wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u kaca bini'aadamka ee kiisaska cirifka ah, oo ay la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka waqti ka dib.

Mamba iyo Goobaha Gobolka ee la xushay ee ficil ahaan

Jiilka maqalka ee wakhtiga-dhabta ah iyo qaabaynta hadalka kaas oo u habeeya qaab-dhismeedka mowjadaha cayriin si hufan.

Jiilka maqalka ee waqtiga-dhabta ah iyo qaabaynta hadalka ee u habeeya qaab-dhismeedka mowjadaha cayriin si hufan Kooxuhu waxay badanaa helaan natiijooyin ka wanaagsan marka ay qeexaan heerarka tayada ee hore, u hayaan dariiqa kor u qaadida bini'aadamka ee kiisaska cirifka ah, oo ay la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka ah waqti ka dib.

Mamba iyo Goobaha Gobolka ee la xushay ee ficil ahaan

Meelaynta qalabka ama geesaha halkaasoo xaalad yar oo go'an oo soo noqnoqota ay kaydiso xusuusta iyo kaydka dareenka sii kordhaya.

Qalabyada qalabka ama cidhifyada halka xaalad yar oo go'an oo soo noqnoqota ay kaydiso xusuusta marka loo eego kaydinta feejignaanta ee sii kordheysa Kooxuhu waxay inta badan helaan natiijooyin wanaagsan marka ay qeexaan heerarka tayada ee hore, waxay hayaan dariiqa kor u qaadida bini'aadamka ee kiisaska cirifka ah, oo la socdaan labadaba faa'iidooyinka wax soo saarka iyo kharashyada khaladka waqti ka dib.

Khatarta & Dariiqyada Ilaalada

!

Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.

!

Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.

!

Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.

Qorshe Hawleedka Dhaqangelinta

1

Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.

Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

2

Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.

Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

3

Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.

Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

4

Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.

Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah. Tallaabo kasta ula dhaqan sida albaabka caddaynta: haddii shuruudaha la buuxin waayo, hakad soo bixidda, xidh farqiga, ka dibna balaadhi isticmaalka.

Sii wad Sahaminta