Habaar celinta LLMs
Habaarka rogaal celiska ah waa hab guuldarro la yaab leh halkaas oo nooca luqadda barta 'A waa B' uusan si kalsooni leh uga jawaabi karin 'B waa A'. Waxay daaha ka qaadaysaa in LLM-yadu u kaydiyaan xaqiiqooyinka sidii ururro hal-jiho ah, oo aan ahayn aqoon summeedka.
quusid qoto dheer
Waxaa lagu diiwaangeliyay warqad 2023 Berglund iyo asxaabtiisa, inkaarta rogaal celiska ah waxay muujineysaa in haddii model lagu tababaro 'Tom Cruise hooyadeed waa Mary Lee Pfeiffer,' waxay badanaa ku guuldareysataa marka la weydiiyo 'Waa ayo ina Mary Lee Pfeiffer?' inkastoo ay jawaabtu si macquul ah isku mid tahay. Saameyntu waxay ku sii socotaa cabbirrada moodeelka iyo xitaa ka dib marka si fiican loo habeeyo boqollaal xaqiiqooyin ah. Ma aha farqiga xusuusta: qaabku wuxuu arkay macluumaadka, laakiin kaliya hal nidaam. Sababtoo ah tababarku waxa uu wanaajiyaa saadaasha xigta ee habka saxda ah ee xogta, isku xirka tirakoobka ee A ilaa B si toos ah uma abuurayo isku xirka B ilaa A. Helitaanka fikrado caqabad ku ah oo kaliya ayaa soo saara dabacsanaan, fikrado aadanaha u eg oo ku saabsan xaqiiqda.
Aragtida Farsamada
Transformers waxay wax ku bartaan iyagoo saadaaliyay calaamada xigta ee la bixiyay macnaha hore, markaa cusboonaysiinta tartiib tartiib ah waxay xoojisaa khariidaynta jihada 'A ka dibna B' laakiin waxay ka tagaan 'B ka dibna A' lama taaban ilaa nidaamkaasi sidoo kale ka soo muuqdo tababarka. Labada jiho waxay ku nool yihiin dariiqooyin miisaan oo kala duwan. Cilmi baadhayaashu waxay tan ku caddeeyeen iyaga oo cabbiraya itimaalka-Log-ga: ka dib markii ay ogaadeen xaqiiqo hore, ixtimaalka bayaanka gadaalkiisu waxa uu joogay meel u dhaw gunta hoose, iyada oo aan muujinayn rogan macquul ah oo muuqda oo dhacay intii lagu jiray tababarka.
Saamaynta Istiraatijiyadeed
Xawaaraha iyo miisaanka
Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.
Helitaanka iyo gaarsiinta
Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.
Go'aamo cad
Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.
Mustaqbalka habaar celinta ee LLMs
Yaraynta daraasadda waxaa ka mid ah kordhinta xogta labada jiho (ku-darka weedho rogan), ujeedooyinka tababbarka ee saadaaliya calaamadaha labada dhinac, iyo hababka dib u soo celinta kuwaas oo u eegaya xaqiiqada si isku mid ah halkii ay ku tiirsanaan lahaayeen miisaanka la xafiday. Qaar ka mid ah dhismayaasha cusub iyo tijaabooyinka hore ee tababarka ayaa yareynaya farqiga. Filo in habaarku yaraado laakiin ma baabi'in doono, maadaama ay soo bandhigayso ismaandhaaf qotodheer oo u dhexeeya barashada calaamadda xigta iyo qaab-dhismeedka summeedka ee xidhiidhka adduunka dhabta ah.
Dhaqangelinta Adduunka-dhabta ah
chatbot-ku wuxuu si sax ah u sheegaa qofka caanka ah waalidkiis laakiin wuu ku guul daraystay markii la waydiiyo inuu magacaabo ilmaha caanka ah ee waalidka.
Qaabka ayaa akhrinaya 'madaxweynihii sagaalaad waxa uu ahaa William Henry Harrison' weli wuu ku turunturooday 'madaxweyne nambarkee ahaa William Henry Harrison'.
Kaaliyaha codaynta ee bartay khariidaynta-shaqaynta-sharraxaadda kama soo celin karo magaca shaqada sharraxaadda oo keliya.
Nadaamka QA-da caafimaad ee lagu tabobaray 'Daawada X waxay dawaysaa Xaaladda Y' waxay ku guul daraysatay inay liis garayso Dawada X markii la waydiiyo waxa lagu daweeyo Xaaladda Y.
Khatarta & Dariiqyada Ilaalada
Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.
Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.
Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.
Qorshe Hawleedka Dhaqangelinta
Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.
Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.
Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.
Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.
Sii wad Sahaminta
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Reversal Curse in LLMs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hagaha xiga
ChatGPT iyo LLMs
Su'aalaha soo noqnoqda
What is Reversal Curse in LLMs?
Habaarka rogaal celiska ah waa hab guuldarro la yaab leh halkaas oo nooca luqadda barta 'A waa B' uusan si kalsooni leh uga jawaabi karin 'B waa A'. Waxay daaha ka qaadaysaa in LLM-yadu u kaydiyaan xaqiiqooyinka sidii ururro hal-jiho ah, oo aan ahayn aqoon summeedka.
Habaar rogaal celis ah maxay qeexaysaa?
Habaarka rogaal celiska ah waa guuldarada in laga eego 'B waa A' tababarka 'A waa B', inkastoo ay labadoodu si macquul ah u siman yihiin.
Waa maxay sababta habaarka rogaal celiska ahi u dhaco, farsamo ahaan?
Sababtoo ah tababarku waxa uu wanaajiyaa saadaasha calaamada soo socota ee habka saxda ah ee la arkay, khariidaynta gadaasha marna lama xoojiyo ilaa ay sidoo kale ka muuqato tababarka.
Kordhinta cabbirka moodeelku si la isku halleyn karo ma u hagaajiyaa inkaarta rogaal celiska ah?
Daraasadii asalka ahayd waxay ogaatay inkaarta lagu hayo cabbirro moodeel oo kala duwan, taasoo muujinaysa miisaanka keligiis ma xallinayo.
Waa kuwee dhimista si toos ah u beegsanaysa habaar rogaal celis ah?
Kordhinta xogta labada jiho waxay soo bandhigaysaa qaabka 'A waa B' iyo 'B waa A', abuurista ururka gadaale ee maqan.
Sidee bay cilmi-baarayaashu u xaqiijiyeen in moodalku aanu si dadban u baran xaqiiqada ka soo horjeeda?
Suurtagalnimada bayaanka la rogay waxay ku sii dhawaatay gundhig ka dib tababarkii hore, iyadoo tusinaysa wax rogan macquul ah oo dhacay.