Il prossimoProssima guida
Autoriflessione nei cicli degli agenti
Tecnico
GUIDA alle applicazioni
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts.
Ascolta questa guidaNarrato dall'IA · ~1 min
It changes context, not model weights.
The Reflexion paper describes an Actor that attempts a task, an Evaluator that scores the result, and a Self-Reflection model that turns feedback into language stored in episodic memory. The next attempt can use that reflection as context; the framework does not update model weights. The paper reports improvements on selected tasks, including a HumanEval result for its particular setup. Benchmark results should not be generalized to every agent or deployment. In the Reflexion paper’s reported coding experiment, the framework achieved 91% pass@1 on HumanEval, compared with 80% for the GPT-4 baseline described in that paper. These are results for the paper’s particular setup and benchmark, not a general performance guarantee.
An agent receives unit-test feedback, writes a reflection, and retries a coding task.
A researcher compares Reflexion’s benchmark setup with its stated baseline.
An evaluator supplies task-specific feedback that the agent can inspect.
A developer stops iteration when a defined success condition is met.
Self-correction methods remain dependent on evaluation quality, task design, and iteration cost. Avoid claims of general improvement without testing; reflections can be mistaken or lead to loops.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts. It changes context, not model weights.
La riflessione è talvolta chiamata "apprendimento per rinforzo verbale" perché le lezioni vengono archiviate in memoria come testo in linguaggio naturale, non codificate nei parametri del modello.
Il valutatore (un test unitario, un controllo della corrispondenza esatta o un giudice LLM) produce il segnale che la fase di auto-riflessione si trasforma in una lezione testuale.
Se il valutatore è inaffidabile, l’agente può scrivere riflessioni fiduciose basate su feedback negativi, indirizzando i tentativi futuri nella direzione sbagliata.
The paper reports 91% pass@1 on HumanEval for its Reflexion coding setup; the result is specific to that evaluation.
Senza una buona regola di arresto, un agente può continuare a rivedere le risposte corrette, sprecando risorse di calcolo e talvolta degradando il buon output.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Autoriflessione nei cicli degli agenti
Tecnico