LegközelebbKövetkező útmutató
Reflexiós és önkorrekciós szerek
Alkalmazások
Műszaki ÚTMUTATÓ
Az önreflexió lehetővé teszi az AI-ügynök számára, hogy a feladat közben bírálja saját kimeneteit és tevékenységeit, majd a kritika alapján felülvizsgálja.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
Az ügynökhurokban a nyelvi modell műveleteket hajt végre (eszközök hívása, kód írása, válaszadás), megfigyeli az eredményeket, és eldönti, hogy mi legyen a következő lépés. Az önreflexió egy szándékos lépést ad hozzá, ahol a modell értékeli legutóbbi munkáját, mielőtt folytatná. Az olyan keretrendszerek, mint a Reflexion (2023), ezt konkretizálják: egy sikertelen próbálkozás után az ügynök ír egy rövid verbális kritikát ("Elfelejtettem kezelni az üres listás esetet"), és eltárolja a memóriájában, így a következő kísérlet feltétele ez a lecke. Az Self-Refine ugyanazt a modellt használja a visszajelzés generálására, majd a válasz iteratív újraírására. A tükröződés származhat a kimenet és a cél összehasonlításából, a hibaüzenetek ellenőrzéséből vagy a tesztek futtatásából. A kifizetődő a nagyobb megbízhatóság a többlépcsős feladatoknál, mint például a kódolás, a webes navigáció és a matematika, ahol az egyetlen lépés gyakran sikertelen, de a kritika és újrapróbálkozás ciklus sikeres.
A kódoló ügynök hibás egységtesztet futtat, beolvassa a visszakövetést, ír egy tükrözést, amely megjegyzi az off-by-one hibát, és átírja a függvényt a következő ciklus iterációjában.
A rossz linkre kattintó webböngésző ügynök tükrözi azt az oldalt, amelyre eljutott, felismeri a céllal való eltérést, és visszalép, hogy egy másik linket próbáljon ki.
A kutatási asszisztens megszerkeszti a választ, bírálja azt a nem alátámasztott állítások miatt, és felülvizsgálja, hogy hivatkozásokat adjon hozzá, vagy fedezze a bizonytalan állításokat, mielőtt visszaküldi.
A matematikai megoldó ügynök ellenőrzi végső válaszát a probléma megszorításaihoz képest, észreveszi az egységeltérést, és a hibás eredmény benyújtása helyett átdolgozza a számítást.
Arra számíthat, hogy a tükrözés egy beépített ügynökprimitív, nem pedig felszólító trükk lesz, mivel a modelleket arra tanítják, hogy tudják, mikor éri meg a tükrözés az extra tokeneket, és mikor égeti el a számítást. Az ellenőrző modellek és a végrehajtási visszajelzések egyre inkább megalapozzák az önkritikát, így az ügynökök nem hallucinálják, hogy a rossz válaszok helyesek. A kutatás a meghibásodási módot is megcélozza, ahol a modellek magabiztosan állítják a rossz munkát, a kalibrált, bizonyítékokon alapuló reflexió és a hurok tanult megállítási kritériumai felé törekszenek.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Az önreflexió lehetővé teszi az AI-ügynök számára, hogy a feladat közben bírálja saját kimeneteit és tevékenységeit, majd a kritika alapján felülvizsgálja. Az egyszeri kitalálót olyan rendszerré változtatja, amely felfogja és kijavítja a saját hibáit.
Az önreflexió beilleszt egy értékelési lépést, amelyben az ügynök bírálja legutóbbi tevékenységét vagy kimenetét, és ezt a kritikát használja a következő lépésének irányítására.
A reflexió a verbális önkritikákat egy epizodikus memóriapufferben tartja, és a későbbi próbák során kontextusba táplálja őket, így a tanulás a kontextusban történik, nem pedig a súlyfrissítéseken keresztül.
A földelt külső jelek, mint például a sikertelen tesztek vagy a futásidejű hibák konkrét, megbízható visszajelzést adnak, míg a tisztán öngenerált kritika téves lehet.
Megalapozott visszacsatolás nélkül a modellek néha felülvizsgálják a hibás munkát, és tévesen arra a következtetésre jutnak, hogy az rendben van, ezért fontos a külső ellenőrzés.
Az Self-Refine egyetlen modell visszajelzést ad a vázlatáról, majd ismétlődően felülvizsgálja a kimenetet a visszajelzés alapján.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Reflexiós és önkorrekciós szerek
Alkalmazások