Perdido no efeito intermediário
O efeito “perdido no meio” é a tendência dos modelos de linguagem de usar melhor a informação quando ela aparece no início ou no final de uma entrada longa, ignorando os fatos enterrados no meio.
Visão geral
Isso importa porque limita o quanto podemos confiar em modelos de longo contexto com documentos recuperados.
Mergulho profundo
Identificado num estudo de 2023 realizado por Liu e colegas de Stanford, o efeito apareceu quando os modelos receberam muitos documentos e foram solicitados a responder usando um que continha o facto principal. A precisão formou uma curva em forma de U: mais alta quando a passagem relevante estava no início ou no final do prompt, e visivelmente mais baixa quando estava no meio. Isso vale mesmo para modelos comercializados como capazes de longo contexto. A implicação é nítida para a geração com recuperação aumentada: colocar dezenas de passagens em um prompt não garante que o modelo as leia uniformemente. A posição, e não apenas a presença, determina se um modelo atende a um fato. O trabalho reformulou o contexto longo como uma questão de uso eficaz, e não de tamanho bruto da janela.
Visão Técnica
A curva em forma de U provavelmente decorre de como a atenção e as codificações posicionais distribuem o foco. Os vieses de primazia e recência, parcialmente herdados da estrutura de dados de treinamento e dos esquemas posicionais, dão peso extra aos tokens iniciais e tardios. Algumas arquiteturas de decodificadores também propagam fortemente as informações dos primeiros tokens através de camadas. O resultado líquido é que as posições intermediárias recebem atenção diluída, de modo que uma resposta correta colocada ali pode ser efetivamente ignorada mesmo quando totalmente presente no contexto.
Impacto Estratégico
Velocidade e escala
Os fluxos de trabalho de idiomas podem avançar mais rapidamente sem sacrificar a consistência.
Acesso e alcance
Ele expande o acesso entre idiomas e estilos de comunicação.
Decisões mais claras
As equipes podem gastar mais tempo julgando enquanto a automação cuida da repetição.
O futuro do efeito perdido no meio
Os pesquisadores estão abordando o efeito com modificações de atenção, treinamento de reconhecimento de posição e recuperação mais inteligente que reclassifica as passagens mais relevantes nas bordas do prompt. Os conjuntos de avaliação agora incluem testes de “agulha no palheiro” em todos os cargos para medir o contexto eficaz. À medida que as arquiteturas melhoram, a curva em U se achata, mas os profissionais continuarão projetando pipelines que colocam evidências críticas onde os modelos realmente aparecem, em vez de confiar na atenção uniforme.
Implementação no mundo real
Um sistema RAG recupera 20 documentos, mas erra a resposta porque caiu na passagem 10 de 20.
Os engenheiros reclassificam os resultados da pesquisa para colocar a parte mais relevante em primeiro ou último lugar no prompt.
Um resumidor de documentos longos subestima os principais detalhes que aparecem no meio de um contrato.
Um benchmark de 'agulha em um palheiro' esconde um fato em profundidades variadas para mapear a precisão posicional de um modelo.
Riscos e guarda-corpos
Fatos alucinados podem entrar silenciosamente em relatórios, fluxos de apoio ou resultados de pesquisas.
A sensibilidade do prompt pode criar resultados inconsistentes em solicitações semelhantes.
Dados de texto confidenciais podem ser expostos se os controles de acesso forem fracos.
Roteiro de implementação
Defina o formato de saída, o tom e os padrões de qualidade antes da implementação.
Respostas terrestres com fontes confiáveis sempre que a precisão for importante.
Mantenha um ponto de verificação de revisão humana para resultados de alto risco.
Rastreie padrões de falha e treine novamente prompts ou fluxos de trabalho regularmente.
Continue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Lost in the Middle Effect quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Próximo guia
Geração de efeitos sonoros
Perguntas frequentes
O que é o Efeito Perdido no Meio?
O efeito “perdido no meio” é a tendência dos modelos de linguagem de usar melhor a informação quando ela aparece no início ou no final de uma entrada longa, ignorando os fatos enterrados no meio. É importante porque limita o quanto podemos confiar em modelos de longo contexto com documentos recuperados.
Qual é a forma da precisão à medida que o fato principal passa por um prompt longo?
A precisão é maior quando a informação relevante está perto do início ou do fim e fica no meio, formando um U.
O que o efeito perdido no meio implica para a geração aumentada por recuperação?
Simplesmente incluir uma passagem não é suficiente; onde ele está no prompt altera a probabilidade de o modelo usá-lo.
Que preconceitos se pensa que impulsionam o efeito?
Atenção extra à primeira e à última posições, ligada às codificações posicionais e à estrutura de treinamento, produz a curva U.
Os modelos de contexto longo evitam automaticamente esse efeito?
O estudo constatou o efeito em modelos comercializados como de contexto longo, mostrando que o tamanho da janela não garante um uso uniforme.
Que etapa prática ajuda a neutralizar o efeito em um pipeline?
Colocar as evidências mais relevantes perto do início ou do fim alinha-as com onde o modelo está mais presente.