DalšíDalší průvodce
Reflexní a samoopravné prostředky
Aplikace
Technický PRŮVODCE
Sebereflexe umožňuje agentovi umělé inteligence kritizovat své vlastní výstupy a akce uprostřed úkolu a poté na základě této kritiky revidovat.
Poslechněte si tento návodAI-vyprávěný · ~2 min
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Ve smyčce agenta jazykový model provádí akce (nástroje pro volání, psaní kódu, odpovídání), sleduje výsledky a rozhoduje, co dál. Sebereflexe přidává záměrný krok, kdy model hodnotí svou nedávnou práci, než bude pokračovat. Rámce jako Reflexion (2023) to upřesňují: po neúspěšném pokusu agent napíše krátkou verbální kritiku („Zapomněl jsem zpracovat případ prázdného seznamu“) a uloží ji do paměti, takže další pokus je podmíněn touto lekcí. Self-Refine používá stejný model ke generování zpětné vazby a poté iterativně přepisuje svou odpověď. Odraz může pocházet z porovnávání výstupu s cílem, kontroly chybových zpráv nebo provádění testů. Odměnou je vyšší spolehlivost při vícekrokových úlohách, jako je kódování, webová navigace a matematika, kde jeden průchod často selže, ale smyčka kritiky a opakování uspěje.
Kódovací agent spustí neúspěšný test jednotky, přečte zpětné sledování, zapíše reflexi zaznamenávající chybu off-by-one a přepíše funkci při další iteraci smyčky.
Agent pro procházení webu, který klikl na nesprávný odkaz, se odrazí na stránce, na kterou se dostal, rozpozná nesoulad se svým cílem a vrátí se, aby zkusil jiný odkaz.
Výzkumný asistent navrhne odpověď, kritizuje ji za nepodložená tvrzení a před jejím vrácením ji upraví, aby přidal citace nebo zajistil nejisté výroky.
Agent pro řešení matematiky zkontroluje svou konečnou odpověď na omezení problému, všimne si nesouladu jednotek a přepracuje výpočet namísto odeslání chybného výsledku.
Očekávejte, že se odraz stane spíše vestavěným agentním primitivem než trikem nabádání, s modely vyškolenými tak, aby věděly, kdy odraz stojí za tokeny navíc a kdy to jen spálí výpočty. Modely ověřovatelů a zpětná vazba při provádění budou stále více uzemňovat sebekritiku, takže agenti přestanou halucinovat, že špatné odpovědi jsou správné. Výzkum se také zaměřuje na režim selhání, kde modely sebevědomě potvrzují špatnou práci a tlačí se směrem ke kalibrované reflexi založené na důkazech a naučeným kritériím zastavení smyčky.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Sebereflexe umožňuje agentovi umělé inteligence kritizovat své vlastní výstupy a akce uprostřed úkolu a poté na základě této kritiky revidovat. Z jednorázového hádače udělá systém, který zachytí a opraví vlastní chyby.
Sebereflexe vkládá hodnotící krok, ve kterém agent kritizuje své nedávné akce nebo výstup a používá tuto kritiku k vedení svého dalšího kroku.
Reflexe uchovává verbální sebekritiku ve vyrovnávací paměti epizodické paměti a vkládá je do kontextu v pozdějších zkouškách, takže učení probíhá spíše v kontextu než prostřednictvím aktualizací hmotnosti.
Uzemněné externí signály, jako jsou neúspěšné testy nebo chyby za běhu, poskytují konkrétní, důvěryhodnou zpětnou vazbu, zatímco čistě vlastní kritika může být chybná.
Bez podložené zpětné vazby modely někdy zkontrolují chybnou práci a nesprávně usoudí, že je v pořádku, takže externí ověření je důležité.
Self-Refine má jediný model, který vytváří zpětnou vazbu ke svému návrhu a poté iterativně reviduje výstup pomocí této zpětné vazby.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Reflexní a samoopravné prostředky
Aplikace