Technische GIDS
Boom-van-gedachten redeneren
Met Tree-of-Thoughts kan een model vele redeneerpaden parallel verkennen, zoals takken van een boom, in plaats van zich aan één gedachtegang te houden.
Luister naar deze gidsAI-verteld · ~2 min
Op deze pagina2 min lezen
Overzicht
Het kan vooruitkijken, deeloplossingen evalueren en een stap terug doen na doodlopende wegen.
Diepe duik
Geïntroduceerd door Yao et al. in 2023 generaliseert Tree-of-Thoughts (ToT) de gedachteketen. Waar de gedachteketen één enkele lineaire reeks redeneerstappen oplevert, structureert ToT het probleem als een boom: elk knooppunt is een gedeeltelijke oplossing (een 'gedachte'), en het model genereert vanuit elk knooppunt verschillende mogelijke volgende gedachten. Een afzonderlijke evaluatiestap beoordeelt hoe veelbelovend elke tak is, en een zoekalgoritme zoals eerst in de breedte of eerst in de diepte beslissen welke takken moeten worden uitgebreid en welke moeten worden gesnoeid. Hierdoor kan het model doelbewust verkennen, een paar stappen vooruit kijken en teruggaan als een pad er niet veelbelovend uitziet. ToT schitterde met taken die de hebzuchtige eenrichtingsredenering verslaan, het meest bekende de Game of 24, waar GPT-4 met gedachteketen ongeveer 4% van de puzzels oploste, maar ToT het succes naar ongeveer 74% duwde.
Implementatie in de echte wereld
Het spel van 24 oplossen door te vertakken welke twee getallen als eerste moeten worden gecombineerd en rekenkundige paden te snoeien die 24 niet kunnen bereiken.
Creatief schrijven met een samenhangend plan, waarbij het model verschillende plotcontouren opstelt, evalueert en het sterkst uitbreidt voordat het proza wordt geschreven.
Beperkingspuzzels zoals mini-kruiswoordraadsels, waarbij elk gevuld woord een gedachte is en incompatibele takken worden verlaten.
Wiskunde- of planningsproblemen met meerdere stappen waarbij het model alternatieve tussenstappen onderzoekt en teruggaat naar stappen die beperkingen schenden.
De toekomst van redeneren met een boom-van-gedachten
Tree-of-Thoughts beïnvloedt hoe de inferentietijd wordt besteed: in plaats van één grote voorwaartse stap, zoeken systemen steeds meer redeneerpaden af en kiezen ze de beste. Toekomstig werk is erop gericht om te leren wanneer vertakkingen de hoge symbolische kosten waard zijn, om getrainde waardefuncties te gebruiken in plaats van op prompts gebaseerde zelfevaluatie, en om het zoeken naar bomen in redeneermodellen op te nemen, zodat de afweging efficiënter is. Verwacht een nauwere integratie met tools en verificateurs, zodat de evaluatie van vestigingen berust op echte feedback in plaats van op het giswerk van het model.
Het in de praktijk brengen
Waarom het ertoe doet
- Kosten en budget. Architectuurbeslissingen bepalen jarenlang de prestaties en bedrijfskosten.
- Duidelijkere beslissingen. Technisch onderwijs helpt teams bij het kiezen van de juiste stapel, niet alleen de nieuwste.
- Kwaliteitscontrole. Betere technische keuzes verminderen het aantal betrouwbaarheidsincidenten in de productie.
Pas op voor
- Het optimaliseren van één benchmark kan bredere systeemzwakheden verbergen.
- Infrastructuur- en onderhoudskosten worden vaak onderschat.
- De lacunes op het gebied van beveiliging en waarneembaarheid kunnen groter worden naarmate systemen complexer worden.
Volgende stappen
- Definieer latentie-, kwaliteits- en kostendoelen vóór implementatie.
- Benchmark onder realistische belasting- en gegevensomstandigheden.
- Instrumentbewaking op fouten, drift en gebruikersimpact.
- Bereid rollback- en incidentresponspaden voor voordat u gaat schalen.
Blijf verkennen
Gratis nieuwsbrief
Ontvang de dagelijkse AI-briefing
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Take the Tree-of-Thoughts Reasoning quiz
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Veelgestelde vragen
Wat is een gedachteboom-redenering?
Met Tree-of-Thoughts kan een model vele redeneerpaden parallel verkennen, zoals takken van een boom, in plaats van zich aan één gedachtegang te houden. Het kan vooruitkijken, deeloplossingen evalueren en een stap terug doen na doodlopende wegen.
Hoe verschilt Tree-of-Thoughts van gedachteketenprompts?
De gedachteketen produceert één enkele lineaire reeks, terwijl de Boom-van-Gedachten zich vertakt in vele kandidaatpaden die kunnen worden geëvalueerd en gesnoeid.
Wat vertegenwoordigt een enkel knooppunt in Tree-of-Thoughts doorgaans?
Elk knooppunt is een gedeeltelijke oplossing (een gedachte), en het model breidt vanuit elk knooppunt verschillende mogelijke volgende gedachten uit.
Welke rol speelt de staatsbeoordelaar in Tree-of-Thoughts?
De beoordelaar, vaak dezelfde LLM, beoordeelt of stemt op gedeeltelijke toestanden (bijvoorbeeld zeker/misschien/onmogelijk), zodat de zoektocht zich kan concentreren op veelbelovende takken.
Op de Game of 24-benchmark presteerde ToT dramatisch beter dan de gedachteketen, ongeveer met welke sprong?
GPT-4 met gedachteketen loste ongeveer 4% van de Game of 24-puzzels op, terwijl Tree-of-Thoughts ongeveer 74% bereikte.
Welke zoekstrategieën worden vaak gebruikt om door de gedachteboom te navigeren?
ToT combineert het genereren en evalueren van gedachten met klassieke zoekprocedures zoals BFS, DFS of beam search om te beslissen welke takken moeten worden uitgebreid.
Blijf leren
Gerelateerde gidsen
Er zijn meer handleidingen voor dit onderwerp geselecteerd