DalšíDalší průvodce
Zábradlí a moderování výstupu
Jazyk AI
Jazyk AI GUIDE
Self-Refine je technika dotazování, kdy jazykový model kritizuje svůj vlastní výstup a přepisuje jej, dokud se odpověď nezlepší.
Poslechněte si tento návodAI-vyprávěný · ~2 min
It matters because models can often spot and fix their own mistakes without any extra training or human feedback.
Self-Refine, kterou představil Madaan a kolegové v roce 2023, provozuje stejný model ve třech rolích: generátor, kritik a revizor. Nejprve model vytvoří počáteční odpověď. Poté je vyzván k poskytnutí konkrétní a použitelné zpětné vazby na tuto odpověď (např. „tento kód postrádá zpracování chyb“ nebo „toto shrnutí nedosáhlo hodnoty nákladů“). Nakonec přepíše odpověď pomocí této zpětné vazby. Cyklus se opakuje, dokud model nerozhodne, že výstup je dostatečně dobrý nebo dokud není dosaženo limitu kroku. Zásadní je, že není potřeba žádné další školení, model odměn nebo externí nástroj, pouze chytré nabádání. U úloh, jako je optimalizace kódu, dialog a přepisování sentimentu, tato smyčka měřitelně zlepšila kvalitu oproti generování jednorázových snímků.
Vylepšení generovaného kódu tím, že model označí chybějící případy hran a poté přepíše funkci, aby je zvládla
Vyleštění konceptu e-mailu nebo eseje sebekritickým tónem a jasností a následnou revizí pro cílové publikum
Optimalizace odpovědi na matematický nebo logický problém kontrolou každého kroku a opravou aritmetických chyb
Upřesnění odpovědi zákaznické podpory tak, aby přímo odpovídala dotazu uživatele namísto poskytování obecné odpovědi
Self-Refine se stává stavebním kamenem pro agentní systémy, kde modely iterativně navrhují, testují a opravují kód nebo plány, než začnou jednat. Očekávejte těsnější integraci s externími ověřovateli (testy jednotek, kalkulačky, vyhledávání), aby se kritika opírala spíše o skutečné signály než o názor modelu. Výzkum zjišťuje, kdy pomáhá sebekritika, oproti tomu, kdy modely tvrdošíjně opakují chyby, a adaptivní řídicí jednotky, které rozhodují o tom, kolik kol upřesnění daný úkol skutečně potřebuje, aby vyvážil kvalitu a náklady.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Self-Refine je technika dotazování, kdy jazykový model kritizuje svůj vlastní výstup a přepisuje jej, dokud se odpověď nezlepší. Záleží na tom, protože modelky často dokážou odhalit a opravit své vlastní chyby bez dalšího školení nebo lidské zpětné vazby.
Self-Efine používá jeden model ve třech vybídnutých rolích: generuje koncept, kritizuje jej a poté reviduje.
Charakteristickým rysem Self-Refine je, že nepotřebuje žádné další školení, model odměn nebo lidskou zpětnou vazbu, pouze nabádání.
Kritika v nové výzvě podporuje objektivní hodnocení spíše než racionalizaci původní odpovědi.
Specifická kritika (např. „přidat zpracování chyb“) vede k cíleným úpravám; vágní zpětná vazba přináší vágní revize.
Pokud model nedokáže rozpoznat problém, jeho sebekritika ho nevynoří, takže ho revize nemůže opravit.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Zábradlí a moderování výstupu
Jazyk AI