LegközelebbKövetkező útmutató
Gondolatok fája
Nyelvi AI
Műszaki ÚTMUTATÓ
A Gondolatok fája lehetővé teszi, hogy a modell párhuzamosan számos érvelési utat fedezzen fel, mint egy fa ágait, ahelyett, hogy egyetlen gondolatmenet mellett kötelezné el magát.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
Yao és munkatársai vezették be. 2023-ban a Tree-of-thoughts (ToT) általánosítja a gondolati láncra késztetést. Ahol a gondolati lánc egyetlen lineáris érvelési lépéssorozatot hoz létre, a ToT a problémát faként strukturálja: minden csomópont egy részmegoldás („gondolat”), és a modell minden csomópontból több lehetséges következő gondolatot generál. Egy külön kiértékelési lépésben pontozzák, hogy az egyes ágak mennyire ígéretesek, és egy keresési algoritmus, például a szélesség-első vagy mélység-első keresés eldönti, hogy mely ágakat kell bővíteni és melyeket metszeni. Ez lehetővé teszi a modell számára, hogy szándékosan felfedezze, néhány lépéssel előre tekintsen, és visszalépjen, ha egy út kilátástalannak tűnik. A ToT azokon a feladatokon ragyogott, amelyek legyőzik a mohó egyútvonalas érvelést, leghíresebb a Game of 24, ahol a GPT-4 gondolatlánccal a feladványok körülbelül 4%-át oldotta meg, de a ToT nagyjából 74%-ra növelte a sikert.
A 24-es játék megoldása elágazással, amelyen két szám elsőként kombinálható, és olyan számtani utak lemetszésével, amelyek nem érhetik el a 24-et.
Kreatív írás koherens tervvel, ahol a modell több cselekményvázlatot vázol, ezeket értékeli, és a prózaírás előtt a legerősebben bővíti.
A kényszerrejtvények, például a mini keresztrejtvények, ahol minden kitöltött szó egy gondolat, és az összeférhetetlen ágakat elhagyják.
Többlépcsős matematikai vagy tervezési problémák, ahol a modell alternatív közbenső lépéseket tár fel, és visszalép azoktól, amelyek megsértik a korlátokat.
A gondolatok fája befolyásolja a következtetési idő számításának elköltését: egyetlen nagy előrelépés helyett a rendszerek egyre inkább az érvelési útvonalakat keresik, és a legjobbat választják. A jövőbeni munka célja annak megtanulása, hogy az elágazás mikor éri meg a magas jelképes költségét, hogy a prompt alapú önértékelés helyett betanított értékfüggvényeket alkalmazzanak, és a fakeresést érvelési modellekké hajtsák be, hogy a mérlegelés hatékonyabb legyen. Az eszközökkel és ellenőrzőkkel való szorosabb integrációra számítson, így az ágazati értékelés valódi visszajelzéseken, nem pedig a modell találgatásán nyugszik.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Gondolatok fája lehetővé teszi, hogy a modell párhuzamosan számos érvelési utat fedezzen fel, mint egy fa ágait, ahelyett, hogy egyetlen gondolatmenet mellett kötelezné el magát. Előretekinthet, részmegoldásokat értékelhet, és kihátrálhat a zsákutcákból.
A gondolati lánc egyetlen lineáris sorozatot hoz létre, míg a Gondolatfa számos jelölt útvonalra ágazik, amelyek kiértékelhetők és levághatók.
Minden csomópont egy részmegoldás (egy gondolat), és a modell több lehetséges következő gondolatot bővít ki minden csomópontból.
Az értékelő, gyakran ugyanaz az LLM, részállapotokra értékel vagy szavaz (pl. biztos/talán/lehetetlen), így a keresés az ígéretes ágakra koncentrálhat.
A gondolatlánccal rendelkező GPT-4 a 24-es játék körülbelül 4%-át oldotta meg, míg a Gondolatok fája nagyjából 74%-ot ért el.
A ToT a gondolatgenerálást és a kiértékelést olyan klasszikus keresési eljárásokkal párosítja, mint a BFS, DFS vagy sugárkeresés, hogy eldöntse, mely ágakat kívánja bővíteni.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Gondolatok fája
Nyelvi AI