A seguirPróximo guia
Auto-reflexão em Loops de Agente
Técnico
GUIA de aplicações
Agentes de Reflexão e Autocorreção
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts.
Ouça este guiaNarrado por IA · ~1 min
Nesta página1 minuto de leitura
Visão geral
It changes context, not model weights.
Mergulho profundo
The Reflexion paper describes an Actor that attempts a task, an Evaluator that scores the result, and a Self-Reflection model that turns feedback into language stored in episodic memory. The next attempt can use that reflection as context; the framework does not update model weights. The paper reports improvements on selected tasks, including a HumanEval result for its particular setup. Benchmark results should not be generalized to every agent or deployment. In the Reflexion paper’s reported coding experiment, the framework achieved 91% pass@1 on HumanEval, compared with 80% for the GPT-4 baseline described in that paper. These are results for the paper’s particular setup and benchmark, not a general performance guarantee.
Implementação no mundo real
An agent receives unit-test feedback, writes a reflection, and retries a coding task.
A researcher compares Reflexion’s benchmark setup with its stated baseline.
An evaluator supplies task-specific feedback that the agent can inspect.
A developer stops iteration when a defined success condition is met.
O futuro da reflexão e dos agentes autocorretores
Self-correction methods remain dependent on evaluation quality, task design, and iteration cost. Avoid claims of general improvement without testing; reflections can be mistaken or lead to loops.
Colocando em prática
Por que isso importa
- Escolhas de construção. O design em nível de aplicação determina se a IA melhora os resultados reais.
- Equipe e fluxo de trabalho. Uma boa integração do fluxo de trabalho cria ganhos de produtividade nos quais os usuários podem confiar.
- Risco e segurança. Casos de uso bem definidos reduzem a fadiga da mudança e o risco de implementação.
Cuidado com
- Automatizar um processo interrompido pode amplificar os problemas existentes.
- As equipes podem automatizar demais e remover o julgamento humano necessário.
- A qualidade pode variar se os resultados não forem avaliados continuamente.
Próximas etapas
- Mapeie o fluxo de trabalho atual e identifique a etapa de maior atrito.
- Defina pontos de verificação humanos antes da automação completa.
- Treine os usuários sobre solicitações, caminhos de escalonamento e padrões de qualidade.
- Acompanhe os resultados no nível da tarefa para confirmar o valor sustentado.
Continue explorando
Boletim informativo gratuito
Receba o resumo diário de IA
Três histórias verificadas de IA a cada manhã de dia útil, escritas em linguagem simples. Gratuito para sempre, sem anúncios.
Um e-mail a cada dia útil. Cancele a inscrição com um clique. Nunca vendemos ou compartilhamos seu endereço.
Teste você mesmo
Take the Reflexion and Self-Correcting Agents quiz
Feedback instantâneo sobre cada resposta e um certificado compartilhável com um ID verificável assim que você concluir um curso.
Apoie a educação gratuita em IA. O AI Understanding é uma organização sem fins lucrativos 501(c)(3) — sem anúncios, sem paywall, nunca. Faça uma doação
Perguntas frequentes
O que são agentes de reflexão e autocorreção?
Reflexion is a research framework in which language agents use task feedback to write textual reflections for later attempts. It changes context, not model weights.
Qual é a característica definidora de como um agente de Reflexão 'aprende'?
A reflexão é por vezes chamada de “aprendizagem por reforço verbal” porque as lições são armazenadas como texto de linguagem natural na memória, e não codificadas nos parâmetros do modelo.
No quadro da Reflexão, o que faz o Avaliador?
O Avaliador (um teste de unidade, verificação de correspondência exata ou juiz LLM) produz o sinal de que a etapa de Auto-Reflexão se transforma em uma lição textual.
Por que a qualidade do sinal de avaliação é tão importante no Reflexion?
Se o avaliador não for confiável, o agente poderá escrever reflexões confiantes com base em feedback ruim, direcionando futuras tentativas na direção errada.
On which coding benchmark did the Reflexion paper report a 91% pass@1 result?
The paper reports 91% pass@1 on HumanEval for its Reflexion coding setup; the result is specific to that evaluation.
Qual é um risco aberto genuíno com agentes autocorretivos?
Sem uma boa regra de parada, um agente pode continuar revisando as respostas corretas, desperdiçando computação e, às vezes, degradando a boa saída.
Continue aprendendo
Guias relacionados
Mais guias escolhidos para este tópico