Tilmaamaha aasaasiga ah
Waa maxay sababta LLM-yadu ugu halgamayaan tirinta waraaqaha
Noocyada luqadaha waaweyn waxay ku dhibtoonayaan inay tiriyaan xarfaha sababtoo ah ma akhriyaan qoraalka hal xaraf markiiba.
Dhageyso hagahanAI-waa laga sheekeeyay · ~3 min
Boggaan4 daqiiqo akhri
Dulmar
Waxay akhriyaan calaamado, kuwaas oo ah jajabyo jilayaal, sidaas darteed xarfaha gaarka ah ee kelmadu badanaa si toos ah uma muuqdaan qaabka. Hal Xaqiiqda ah ayaa sharraxaysa qoys dhan oo khaladaad aan caadi ahayn leh oo leh higaada, tirinta, dib u noqoshada iyo qaafiyada, waxayna kuu sheegaysaa sida looga shaqeeyo iyaga.
quusid qoto dheer
Kahor inta qaabka luqadda uusan arkin qoraal kasta, calaamadeeyaha wuxuu u kala qaybiyaa calaamado. Inta badan tokenizer-yada casriga ahi waxay isticmaalaan hab ay ka mid yihiin codaynta lammaanaha byte, kaas oo ka barta qoraallada taxanaha ah ee caadiga ah. Erayada soo noqnoqda waxay inta badan noqdaan hal calaamad, erayada dhifka ahna waxa loo kala qaybiyaa dhawr qaybood. Qaabku wuxuu markaa helayaa calaamad kasta oo lambar ahaan wuxuuna u beddelaa vector. Marna ma hesho xarfaha ku jira calaamadaas sida gelinta goonida ah. Markaa marka aad waydiiso inta r ee ku jirta 'strawberry', qaabku ma sawirayo toban xaraf. Waxay u muuqataa laga yaabaa in laba ama saddex qaybood, oo ay tahay in ay dib u soo celiso, laga soo bilaabo qaababka la bartay intii lagu jiray tababarka, kuwaas oo xuruufta kuwa ka kooban yihiin. Aqoontaasi way jirtaa balse waa mid dadban oo daahsoon, sida in lagu weydiiyo inta jeer ee xarafka e ka soo muuqdo kelmad aad weligaa sawir ahaan u aragtay. Su'aasha strawberry waxay noqotay tusaale si weyn loo wadaago sanadka 2024 si sax ah sababtoo ah jawaabtu waa iska caddahay dadka oo si la yaab leh ayay ugu adag tahay chatbots. Sababta isku mid ah ayaa soo saarta khaladaadka la xidhiidha: higaada khaldan marka la waydiiyo in lagu dhawaaqo, ereyada si khalad ah u rogo, ku guuldareysiga caqabadaha xarafka ku salaysan sida acrostics ama lipograms, iyo jilayaasha xisaabinta khaldan ee xadka dhererka. Kala qaybsanaanta saxda ah way ku kala duwan yihiin tokenizers, markaa hal nooc ayaa laga yaabaa inuu kelmad sax ah helo halka mid kalena uu ku guuldareysto. Fikradda khaldan ee caadiga ah ayaa ah in tani ay muujinayso in moodooyinka aysan sababeyn karin ama ay yihiin kuwo taxadar la'aan ah. Xadka inta badan waa qaabka wax gelinta, ee maaha sabab guud. Marka model ah la soo dajiyo inuu kelmadda hore u higgaadiyo, xaraf kastaa waxa uu noqonayaa calaamad u gaar ah, tirintuna waxa ay noqotaa hawl aad u fudud. Moodooyinka sababaynta cusub waxay inta badan sameeyaan tallaabadan higgaada iskood, taas oo ah sababta ay su'aalahan si sax ah u helaan marar badan. Wax kasta oo xaqiiqadu khusayso, socodsiinta qayb gaaban oo kood ah ayaa weli ah habka ugu kalsoonida badan.
Dhaqangelinta Adduunka-dhabta ah
Markii la weydiiyay inta jeer ee xarafka r uu ka soo muuqdo 'strawberry', chatbot wuxuu ka jawaabayaa laba halkii uu ka ahaan lahaa saddex, sababtoo ah ereyga wuxuu ku gaarayaa qaabka sida dhowr xaraf oo kala duwan halkii uu ka ahaan lahaa toban xaraf oo kala duwan.
Macallinku waxa uu waydiiyaa tusaale inuu ku qoro jumlad halkaas oo kelmad kastaa ka bilaabato xarafka s, oo ay ku siibto ereyo aan lahayn, maadaama ay tahay inay eray kasta xarafka ugu horreeya ka geliso halkii ay ka arki lahayd.
Horumariyuhu waxa uu waydiiyaa ereyga 'encyclopedia' oo gadaal loo higaadiyay oo waxa uu helayaa nooc ay ku qoran yihiin xarfo la isku beddelay ama maqan; Weydiinta moodeelka inuu marka hore taxdo xarfaha hal sadarkiiba, ka dibna dib u rogo liiska, hagaajiyo.
App-ka halxiraalaha ah wuxuu u baahan yahay tirinta xarafka saxda ah ee ciyaarta kelmad, marka wuxuu ku xisaabiyaa hal xariiq oo kood caadi ah wuxuuna isticmaalaa qaabka kaliya si uu u qoro tilmaamaha.
Mustaqbalka Sababta ay LLM-yadu ugu halgamayaan Tirinta Warqadaha
Cilmi-baadhayaashu waxay sahamiyaan moodooyinka si toos ah uga shaqeeya bytes ama jilayaasha, iyo naqshadaynta isku-dhafka ah ee kooxuhu si firfircooni ah, taas oo ka dhigi karta hawlaha heerka dabeecadda mid dabiici ah. Hababkani waxay leeyihiin ganacsiyo, sababtoo ah isku xigxiga gelinta dheer ayaa ku kacaya xisaabin badan. Dhanka kale, moodooyinka sababaynta ee u qeexaya ereyada tallaabo-tallaabo iyo moodooyinka wacaya aaladaha koodka ayaa durbaba yareeya khaladaadkan badan oo ficil ahaan ah. Waa macquul in la filan karo guuldarrooyinka tirinta xarfaha xishoodka yar ee waqti ka dib, laakiin hawlaha u baahan tirinta dabeecadda saxda ah, isticmaalka koodka halkii la aamini lahaa dib u soo celinta tusaalaha waxay u badan tahay inay ahaan doonto dhaqan wanaagsan.
Ku dhaqangelinta
Maxay muhiim u tahay
- Go'aamo cad. Waxay kaa caawinaysaa inaad kala saartid sheegashooyinka farsamada cad iyo luqadda suuq-geynta.
- Qiimaha iyo miisaaniyada. Waxaad waydiin kartaa su'aalo fulineed oo wanaagsan ka hor inta aadan lacag ama waqti bixin.
- Kooxda iyo socodka shaqada. Kooxaha fahamka la wadaago waxay sameeyaan wax soo saar, siyaasad, iyo go'aano waxbarasho oo wanaagsan.
Iska ilaali
- Kooxo kala duwan ayaa laga yaabaa inay isla erey u isticmaalaan si kala duwan, marka hore u qeex baaxadda.
- Tilmaamaha ayaa u ekaan kara kuwo xooggan halka waxqabadka dhabta ah ee dunidu aanu sinnayn.
- In la iska indho tiro tayada xogta iyo qorshayaasha qiimayntu waxay inta badan abuurtaa natiijooyin jilicsan.
Tallaabooyinka xiga
- Ka bilow qeexidda luqadda cad ee natiijada aad u baahan tahay.
- Dooro hal cabbir guusha iyo hal xaalad guuldarro ka hor tijaabada.
- Ku orod duuliye yar oo wata xogta matale, ee ma aha bandhig muuqaal ah.
- Qor sababta ay LLM-yadu ugu halgamayaan tirinta xarfaha ay caawinayaan iyo meelaha hababka fudud ay ka wanaagsan yihiin.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the Why LLMs Struggle to Count Letters quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
Waa maxay sababta ay LLM-yadu ugu halgamayaan tirinta waraaqaha?
Noocyada luqadaha waaweyn waxay ku dhibtoonayaan inay tiriyaan xarfaha sababtoo ah ma akhriyaan qoraalka hal xaraf markiiba. Waxay akhriyaan calaamado, kuwaas oo ah jajabyo jilayaal, sidaas darteed xarfaha gaarka ah ee kelmadu badanaa si toos ah uma muuqdaan qaabka. Hal xaqiiqo ah ayaa sharraxaysa qoys dhan oo khaladaad qaawan leh xagga higgaadda, tirinta, rogidda iyo qaafiyada, waxayna kuu sheegaysaa sida looga shaqeeyo iyaga.
Waa maxay sababta ugu weyn ee moodooyinka luqaddu ay si khaldan u tiriyaan xarfaha kelmadda?
Moodooyinka waxay helayaan calaamado, kuwaas oo inta badan ka kooban dhowr xaraf. Xarfaha calaamada ku dhex jira ma aha wax-soo-gelin gaar ah, markaa qaabku waa inuu si dadban dib ugu soo celiyaa.
Muxuu calaamadeeyaha ka soo saaraa gabal qoraal ah?
Tokenizer-ku wuxuu u kala qaybiyaa qoraalka qaybo ka mid ah eray bixin go'an oo mid walba wuxuu u qaybiyaa Aqoonsiga isugeynta, ka dibna loo beddelo vector.
Isbadalka degdega ah kee baa caawiya qaabka saxda ah ee xarfaha loo tiriyo?
Ku qorista kelmadda kala-gooyeyaasha sida s-t-r-a-w waxay caadi ahaan xaraf kasta gelisaa calaamad u gaar ah, taasoo ka dhigaysa tirinta hawl aad u fudud.
Codaynta labada Byte waxay dhistaa ereybixinteeda maxaa yeelay?
BPE waxay ka bilaabataa bytes ama jilayaasha waxayna joogtaa isku darka labada lamaane ee ugu badan ee ku xiga, markaa xargaha caadiga ah waxay noqdaan hal calaamad.
Maxaa laga yaabaa in 'strawberry' iyo 'strawberry' si kala duwan loogu maareeyo moodal?
Tokenizer-yadu waxay inta badan ku jiraan meelo hogaaminaya iyo kiis calaamado ah, markaa isbeddelada dusha yaryar waxay soo saari karaan kala qaybsanaansho kala duwan.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan