Èdè AI Itọsọna
Kahneman-Tversky Iṣapeye
Kahneman-Tversky Optimization (KTO) jẹ ọna titete ti o kọ ẹkọ lati awọn atampako ti o rọrun tabi awọn aami atampako dipo awọn afiwera pọ.
Gbọ si itọsọna yiiAI-ṣe afihan · ~2 min
Lori iwe yi2 min ka
Akopọ
O ṣe pataki nitori esi alakomeji rọrun pupọ ati din owo lati gba ju awọn orisii ti o wa ni ipo lọpọlọpọ awọn ọna ibeere.
Jin Dive
KTO, ti Ethayarajh ṣe afihan ati awọn alabaṣiṣẹpọ ni Stanford ati Contextual AI ni ọdun 2024, yawo lati imọ-ọrọ ifojusọna, iṣẹ ti o gba Nobel ti Daniel Kahneman ati Amos Tversky lori bii eniyan ṣe ni idiyele awọn anfani ati adanu. Awọn ọna boṣewa bii DPO nilo awọn orisii ayanfẹ: yiyan ati idahun ti a kọ fun itọsi kanna. KTO dipo ṣiṣẹ pẹlu data aiṣiṣẹpọ nibiti abajade kọọkan ti jẹ ami iyasọtọ ti o fẹ tabi aifẹ. O kọ ipadanu mimọ ti eniyan ti o tọju ilọsiwaju awoṣe lori apẹẹrẹ bi ere tabi pipadanu ni ibatan si aaye itọkasi kan, lilo ikorira pipadanu nitori awọn abajade aifẹ jẹ ijiya diẹ sii ju awọn ti o fẹ lọ ni ẹsan. Eyi jẹ ki awọn ẹgbẹ lo ọpọlọpọ awọn ifihan agbara atampako oke/isalẹ ti a ti gba tẹlẹ ninu awọn ohun elo iṣelọpọ.
Real-World imuse
Lilo awọn atampako-soke/awọn atampako-isalẹ lati inu iwiregbe iwiregbe ti a fi ranṣẹ lati ṣe atunṣe daradara laisi kikọ awọn orisii ayanfẹ lailai
Iṣatunṣe awoṣe nigba ti o ni opoplopo ti awọn idahun 'dara' ati 'buburu' ṣugbọn ko si awọn afiwera ti o baamu fun awọn itọsi kanna
Ẹgbẹ ọja kan ti n ṣe atunlo awọn asia iwọntunwọnsi (ko fẹ) ati awọn idahun ti o fipamọ (fẹ) sinu ikẹkọ KTO
Mimu awọn esi ti ko ni iwọntunwọnsi nibiti awọn ikorira ti ṣọwọn ju awọn ayanfẹ lọ nipa ṣiṣatunṣe ikorira pipadanu KTO ati awọn iwuwo kilasi.
Ojo iwaju ti Kahneman-Tversky Iṣapeye
KTO ni ibamu daradara si awọn ọja gidi, nibiti awọn olumulo ti tẹ bi tabi korira ṣugbọn kii ṣe ipo awọn idahun meji ni ẹgbẹ lẹgbẹẹ. Reti isọdọmọ jakejado fun awọn iyipo ilọsiwaju ilọsiwaju ti o ṣe atunlo awọn esi iṣelọpọ, pẹlu iṣatunṣe iwọn data iwunilori-si-afẹfẹ ati iwuwo ikorira. Apapọ awọn ilana ihuwasi-ọrọ-aje ti KTO pẹlu awọn ibi-afẹde miiran, ati lilo si awọn esi multimodal, jẹ awọn itọsọna ti nṣiṣe lọwọ bi awọn ẹgbẹ ṣe n wa titete lati awọn ifihan agbara-aye idoti.
Fifi o sinu iwa
Kini idi ti o ṣe pataki
- Iyara ati iwọn. Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
- Wiwọle ati arọwọto. O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
- Awọn ipinnu diẹ sii. Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ṣọra fun
- Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
- Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
- Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Next awọn igbesẹ
- Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
- Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
- Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
- Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Ìwé ìròyìn ọfẹ
Gba ìkànìyàn AI ojoojúmọ́
Ìtàn AI mẹta tó jẹ́rìí ní gbogbo owurọ́ ọjọ́ iṣẹ́, kọ́wé ní Gẹ̀ẹ́sì tó rọrùn. Ọfẹ́ fún gbogbo àkókò, kò sí ìpolówó.
Ìmeèlì kan ní gbogbo ọjọ́ iṣẹ́. Yọkúrò ní ìkànìyàn ní ìkànìyàn kan. A kò ta tàbí pín àdírẹ́sì rẹ.
Ṣe idanwo fun ara rẹ
Take the Kahneman-Tversky Optimization quiz
Ìdáhùn lẹ́sẹ̀kẹsẹ̀ lórí gbogbo ìdáhùn, àti iwe-ẹ̀rí tó lè pin pẹ̀lú ID tó lè jẹ́rìí lẹ́yìn tí o bá kọ́ ẹ̀kọ́.
Ṣe àtìlẹ́yìn ẹ̀kọ́ AI ọfẹ́. AI Understanding jẹ́ àjọ àìní èrè 501(c)(3) — kò sí ìpolówó, kò sí àkúnya owó, ní gbogbo àkókò. Ṣe ẹbun kan
Awọn ibeere ti a beere nigbagbogbo
Kini Iṣapeye Kahneman-Tversky?
Kahneman-Tversky Optimization (KTO) jẹ ọna titete ti o kọ ẹkọ lati awọn atampako ti o rọrun tabi awọn aami atampako dipo awọn afiwera pọ. O ṣe pataki nitori esi alakomeji rọrun pupọ ati din owo lati gba ju awọn orisii ti o wa ni ipo lọpọlọpọ awọn ọna ibeere.
Iru data wo ni KTO nilo?
KTO kọ ẹkọ lati awọn aami atampako-soke/isalẹ ti o rọrun fun apẹẹrẹ dipo awọn orisii ayanfẹ ti o baamu.
KTO ni atilẹyin nipasẹ eyi ti ara iṣẹ?
KTO yawo imọran imọran ifojusọna ti idiyele awọn anfani ati awọn adanu asymmetrically, nitorinaa orukọ naa.
Kini 'ikorira isonu' bi a ti lo ni KTO?
Ilana ifojusọna sọ pe awọn adanu ti o tobi ju awọn anfani lọ, nitorinaa KTO ṣe iwọn awọn iyapa odi diẹ sii darale.
What kind of feedback can KTO learn from without requiring paired comparisons?
KTO’s paper studies alignment from binary desirable/undesirable feedback on individual outputs; it still needs appropriate data and setup.
Ni KTO, awọn iyapa jẹ iwọn ibatan si kini?
Iṣẹ iye ti KTO ṣe idajọ boya idahun kan wa loke tabi isalẹ ipilẹ itọkasi kan, ṣe itọju iyẹn bi ere tabi pipadanu.
Tesiwaju kikọ
Jẹmọ awọn itọsọna
Awọn itọsọna diẹ sii ti a yan fun koko yii