Luqadda AI HAGAHA
Hagaajinta Kahneman-Tversky
Kahneman-Tversky Optimization (KTO) waa hab toosin oo wax ka barta suulasha fudud ee suulka kor ama suulasha hoos u dhaca halkii la barbar dhigi lahaa.
Dhageyso hagahanAI-waa laga sheekeeyay · ~2 min
Boggaan2 daqiiqo akhri
Dulmar
Waa muhiim sababta oo ah jawaab celinta binary aad ayay u sahlan tahay kana raqiisan tahay in la ururiyo marka loo eego lamaanaha darajada leh ee hababka ugu badan ee loo baahan yahay.
quusid qoto dheer
KTO, oo ay soo bandhigeen Ethayarajh iyo asxaabtiisa Stanford iyo Contextual AI sanadka 2024, waxay ka soo amaahdaan aragtida rajada, shaqada Nobel-ku-guuleysiga ee Daniel Kahneman iyo Amos Tversky ee ku saabsan sida aadanuhu u qiimeeyaan faa'iidooyinka iyo khasaarooyinka. Hababka caadiga ah sida DPO waxay u baahan yihiin lammaane dooriya: jawaab la doortay iyo mid la diiday isla markiiba. KTO beddelkeeda waxay la shaqeysaa xogta aan la wadaagin halkaasoo wax soo saar kasta oo gaar ah si fudud loogu calaamadeeyay mid la doonayo ama aan la rabin. Waxa ay dhistaa khasaare banii-aadmigu og yahay oo u daaweeya horumarka moodeelka ee muunad ahaan faa'iido ama khasaare marka loo eego barta tixraaca, iyada oo adeegsanaysa nacaybka luminta si wax-soo-saarka aan loo baahnayn loo ciqaabo si aad u adag marka loo eego kuwa la doonayo. Tani waxay u ogolaanaysaa kooxuhu inay isticmaalaan calaamadaha faraha badan ee suulka kor-sare ee horeba looga soo ururiyay abka wax soo saarka.
Dhaqangelinta Adduunka-dhabta ah
Isticmaalka suulka kor-sare/suulka-hoos gujis ee chatbot-ka la diray si loo hagaajiyo iyada oo aan waligeed la dhisin lammaane doorbidaya
Isku toosinta moodalka marka aad haysatid jawaabaha 'wanaagsan' iyo 'xun' laakiin aan isbarbardhig u dhigmin isla dardargelin
Kooxda alaabta dib u warshadaynta calamada dhexdhexaadinta (aan loo baahnayn) iyo jawaabaha la badbaadiyay (la rabo) ee tababarka KTO
Wax ka qabashada jawaab celinta aan dheellitirnayn halka aan jeclayn ay aad uga yar tahay kuwa jecel adiga oo hagaajinaya nacaybka KTO iyo miisaanka fasalka
Mustaqbalka Kahneman-Tversky Optimization
KTO waxay si fiican ugu habboon tahay alaabada dhabta ah, halkaas oo isticmaalayaashu si dabiici ah u gujiyaan inay jecel yihiin ama neceb yihiin laakiin marar dhif ah ayay laba jawaabood isku daraan. Filo korsashada ballaaran ee wareegyada hagaajinta joogtada ah ee dib u warshadeynaya jawaab celinta wax soo saarka, oo ay weheliso cilmi baaris hagaajinta saamiga xogta la rabo-la-baahan iyo miisaanka luminta nacaybka. Isku-dubbaridka hab-dhaqan-dhaqaale ee KTO iyo ujeedooyin kale, iyo ku-dhaqanka jawaab-celinta hababka-badan, waa jihooyin firfircoon iyadoo kooxuhu ay raadinayaan toosinta calaamadaha-dhabta ah ee dhabta ah.
Ku dhaqangelinta
Maxay muhiim u tahay
- Xawaaraha iyo miisaanka. Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.
- Helitaanka iyo gaarsiinta. Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.
- Go'aamo cad. Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.
Iska ilaali
- Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.
- Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.
- Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.
Tallaabooyinka xiga
- Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.
- Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.
- Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.
- Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.
Sii wad Sahaminta
Warqad bilaash ah
Hel warbixinta maalinlaha ah ee AI
Saddex sheeko oo la xaqiijiyay oo AI ah maalin kasta oo shaqo ah, oo lagu qoray Ingiriis fudud. Bilaash had iyo jeer, aan xayaysiis lahayn.
Hal iimayl maalin kasta oo shaqo ah. Ka bax hal gujin. Marna ma iibinno ama ma wadaagno ciwaankaaga.
Is tijaabi
Take the Kahneman-Tversky Optimization quiz
Fikrad degdeg ah oo ku saabsan jawaab kasta, iyo shahaado la wadaajin karo oo leh aqoonsi la xaqiijin karo markaad ka gudubto koorso.
Taageer waxbarashada AI bilaashka ah. AI Understanding waa 501(c)(3) aan faa'iido doon ahayn — xayaysiis la'aan, albaab lacag ah ma jiro, had iyo jeer. Samee deeq
Su'aalaha soo noqnoqda
Waa maxay Kahneman-Tversky Optimization?
Kahneman-Tversky Optimization (KTO) waa hab toosin oo wax ka barta suulasha fudud ee suulka kor ama suulasha hoos u dhaca halkii la barbar dhigi lahaa. Waa muhiim sababta oo ah jawaab celinta binary aad ayay u sahlan tahay kana raqiisan tahay in la ururiyo marka loo eego lamaanaha darajada leh ee hababka ugu badan ee loo baahan yahay.
Xog noocee ah ayuu KTO u baahan yahay?
KTO waxay wax ka barataa hal-ku-dhegyada fudud ee tusaale ahaan suulka kor-sare/hoos u dhaca halkii ay ka baran lahaayeen lammaane dookh ah oo is-barbar-dhigaa.
KTO waa kuwee shaqada shaqada?
KTO waxay amaahday fikradda aragtida rajada ee qiimaynta faa'iidooyinka iyo khasaarooyinka si aan toos ahayn, markaa magaca.
Waa maxay 'nacaybka khasaare' sida loogu isticmaalo KTO?
Aragtida rajada waxay leedahay khasaaruhu wuu ka weyn yahay faa'iidooyinka, sidaas darteed KTO waxay si aad ah u miisaanaysaa weecashooyinka taban.
What kind of feedback can KTO learn from without requiring paired comparisons?
KTO’s paper studies alignment from binary desirable/undesirable feedback on individual outputs; it still needs appropriate data and setup.
Gudaha KTO, weecsanaanta ayaa lagu cabbiraa marka loo eego waa maxay?
Shaqada qiimaha ee KTO ayaa qiimeysa in jawaabtu ay ka sarreyso ama ka hooseyso gundhigga tixraaca, iyada oo taas ula dhaqmaysa faa'iido ama khasaaro.
Sii wad waxbarashada
Tilmaamaha la xidhiidha
Tilmaamayaal badan ayaa loo doortay mawduucan