Il prossimoProssima guida
Agenti di riflessione e autocorrezione
Applicazioni
GUIDA TECNICA
L'autoriflessione consente a un agente dell'IA di criticare i propri risultati e le proprie azioni durante l'attività, quindi di rivederli in base a tale critica.
Ascolta questa guidaNarrato dall'IA · ~2 min
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
In un ciclo di agenti, un modello linguistico esegue azioni (chiamare strumenti, scrivere codice, rispondere), osserva i risultati e decide cosa fare dopo. L'autoriflessione aggiunge un passaggio deliberato in cui il modello valuta il suo lavoro recente prima di continuare. Framework come Reflexion (2023) rendono questo concreto: dopo un tentativo fallito, l'agente scrive una breve critica verbale ("Ho dimenticato di gestire il caso della lista vuota") e la archivia in memoria, quindi il tentativo successivo è condizionato da quella lezione. Self-Refine utilizza lo stesso modello per generare feedback e quindi riscrivere la sua risposta in modo iterativo. La riflessione può provenire dal confronto dell'output con un obiettivo, dal controllo dei messaggi di errore o dall'esecuzione di test. Il vantaggio è una maggiore affidabilità in attività a più passaggi come codifica, navigazione web e matematica, dove un singolo passaggio spesso fallisce ma un ciclo di critica e riprova ha successo.
Un agente di codifica esegue uno unit test con esito negativo, legge il traceback, scrive una riflessione annotando l'errore off-by-one e riscrive la funzione nell'iterazione del ciclo successivo.
Un agente di navigazione web che ha fatto clic sul collegamento sbagliato si riflette sulla pagina su cui è arrivato, riconosce la mancata corrispondenza con il suo obiettivo e torna indietro per provare un collegamento diverso.
Un assistente di ricerca redige una risposta, la critica per affermazioni non supportate e la rivede per aggiungere citazioni o coprire dichiarazioni incerte prima di restituirla.
Un agente che risolve i calcoli controlla la sua risposta finale rispetto ai vincoli del problema, nota una mancata corrispondenza delle unità e rielabora il calcolo invece di inviare il risultato errato.
Aspettatevi che la riflessione diventi una primitiva dell'agente integrato piuttosto che un trucco di suggerimento, con modelli addestrati a sapere quando la riflessione vale i token extra e quando brucia semplicemente il calcolo. I modelli di verifica e il feedback sull’esecuzione fondano sempre più l’autocritica in modo che gli agenti smettano di avere allucinazioni secondo cui le risposte sbagliate sono corrette. La ricerca si sta concentrando anche sulla modalità di fallimento in cui i modelli affermano con sicurezza un cattivo lavoro, spingendo verso una riflessione calibrata, basata sull’evidenza e criteri di arresto del ciclo appresi.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
L'autoriflessione consente a un agente dell'IA di criticare i propri risultati e le proprie azioni durante l'attività, quindi di rivederli in base a tale critica. Trasforma un indovino one-shot in un sistema che rileva e corregge i propri errori.
L'autoriflessione inserisce una fase di valutazione in cui l'agente critica le sue azioni o risultati recenti e utilizza tale critica per guidare la sua mossa successiva.
La riflessione mantiene le autocritiche verbali in un buffer di memoria episodica e le inserisce nel contesto nelle prove successive, quindi l'apprendimento avviene nel contesto piuttosto che tramite aggiornamenti del peso.
Segnali esterni fondati come test falliti o errori di runtime forniscono feedback concreti e affidabili, mentre le critiche puramente autogenerate possono essere sbagliate.
Senza un feedback fondato, i modelli a volte esaminano il lavoro difettoso e concludono erroneamente che va bene, quindi la verifica esterna è importante.
Self-Refine prevede che un singolo modello produca feedback sulla sua bozza e quindi riveda iterativamente l'output utilizzando quel feedback.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Agenti di riflessione e autocorrezione
Applicazioni