GUIDA TECNICA

Ragionamento basato sull'albero dei pensieri

L'albero dei pensieri consente a un modello di esplorare molti percorsi di ragionamento in parallelo, come i rami di un albero, invece di impegnarsi in una linea di pensiero.

Ascolta questa guidaNarrato dall'IA · ~2 min

In questa pagina2 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro del ragionamento basato sull'albero dei pensieri
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

It can look ahead, evaluate partial solutions, and backtrack from dead ends.

Immersione profonda

Introdotto da Yao et al. nel 2023, l'Albero dei Pensieri (ToT) generalizza la stimolazione della catena di pensiero. Laddove la catena di pensiero produce un'unica sequenza lineare di passaggi di ragionamento, ToT struttura il problema come un albero: ogni nodo è una soluzione parziale (un "pensiero") e il modello genera diversi pensieri successivi candidati da ciascun nodo. Una fase di valutazione separata valuta la promettenza di ciascun ramo e un algoritmo di ricerca come la ricerca in ampiezza o in profondità decide quali rami espandere e quali eliminare. Ciò consente al modello di esplorare deliberatamente, guardare avanti di qualche passo e tornare indietro quando un percorso sembra poco promettente. ToT ha brillato in compiti che sconfiggono l'avido ragionamento a percorso singolo, il più famoso è il Gioco dei 24, dove GPT-4 con catena di pensiero ha risolto circa il 4% degli enigmi ma ToT ha spinto il successo a circa il 74%.

Implementazione nel mondo reale

Risolvere il gioco del 24 ramificandosi su quali due numeri combinare per primi e potando i percorsi aritmetici che non possono raggiungere 24.

Scrittura creativa con un piano coerente, in cui il modello elabora diversi schemi di trama, li valuta ed espande quelli più forti prima di scrivere in prosa.

Enigmi vincolanti come mini cruciverba, in cui ogni parola riempita è un pensiero e i rami incompatibili vengono abbandonati.

Problemi di matematica o pianificazione a più passaggi in cui il modello esplora passaggi intermedi alternativi e torna indietro rispetto a quelli che violano i vincoli.

Il futuro del ragionamento basato sull'albero dei pensieri

L'albero dei pensieri sta influenzando il modo in cui viene impiegato il tempo di calcolo dell'inferenza: anziché un grande passo in avanti, i sistemi cercano sempre più percorsi di ragionamento e scelgono il migliore. Il lavoro futuro mira a capire quando la ramificazione vale il suo alto costo simbolico, a utilizzare funzioni di valore addestrate invece di autovalutazione basata su prompt e a ripiegare la ricerca sugli alberi in modelli di ragionamento in modo che la deliberazione sia più efficiente. Aspettatevi un'integrazione più stretta con strumenti e verificatori in modo che la valutazione delle filiali si basi su feedback reali piuttosto che su congetture del modello.

Metterlo in pratica

Perché è importante

  • Costo e budget. Le decisioni relative all'architettura determinano prestazioni e costi operativi per anni.
  • Decisioni più chiare. La formazione tecnica aiuta i team a scegliere lo stack giusto, non solo quello più nuovo.
  • Controllo di qualità. Migliori scelte ingegneristiche riducono gli incidenti legati all’affidabilità nella produzione.

Attenzione

  • L'ottimizzazione di un benchmark può nascondere debolezze di sistema più ampie.
  • I costi delle infrastrutture e della manutenzione sono spesso sottostimati.
  • Le lacune in termini di sicurezza e osservabilità possono aumentare man mano che i sistemi diventano più complessi.

Prossimi passi

  1. Definire obiettivi di latenza, qualità e costi prima dell'implementazione.
  2. Benchmark in condizioni di carico e dati realistiche.
  3. Monitoraggio dello strumento per errori, deriva e impatto sull'utente.
  4. Preparare percorsi di rollback e risposta agli incidenti prima della scalabilità.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Take the Tree-of-Thoughts Reasoning quiz

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

What is Tree-of-Thoughts Reasoning?

L'albero dei pensieri consente a un modello di esplorare molti percorsi di ragionamento in parallelo, come i rami di un albero, invece di impegnarsi in una linea di pensiero. Può guardare avanti, valutare soluzioni parziali e fare marcia indietro rispetto ai vicoli ciechi.

In che modo l'Albero dei pensieri differisce dalla catena di pensieri?

La catena di pensiero produce un'unica sequenza lineare, mentre l'albero dei pensieri si ramifica in molti percorsi candidati che possono essere valutati e potati.

Nell'Albero dei Pensieri, cosa rappresenta tipicamente un singolo nodo?

Ogni nodo è una soluzione parziale (un pensiero) e il modello espande diversi pensieri successivi candidati da ciascun nodo.

Che ruolo gioca il valutatore dello stato nell’Albero dei Pensieri?

Il valutatore, spesso lo stesso LLM, valuta o vota su stati parziali (ad esempio, sicuro/forse/impossibile) in modo che la ricerca possa concentrarsi su rami promettenti.

Nel benchmark Game of 24, ToT ha nettamente sovraperformato la catena di pensiero e di quale salto?

GPT-4 con catena di pensiero ha risolto circa il 4% dei puzzle di Game of 24, mentre Tree-of-Thoughts ha raggiunto circa il 74%.

Quali strategie di ricerca sono comunemente utilizzate per navigare nell'albero del pensiero?

ToT abbina la generazione e la valutazione del pensiero con procedure di ricerca classiche come BFS, DFS o ricerca del raggio per decidere quali rami espandere.