A seguirPróximo guia
Aprendizagem contínua e esquecimento catastrófico
Fundamentos
GUIA de IA de linguagem
Esquecimento catastrófico
Catastrophic forgetting occurs when training on new tasks degrades performance on previously learned tasks.
Ouça este guiaNarrado por IA · ~2 min
Nesta página2 minutos de leitura
Visão geral
Continual-learning methods attempt to balance adaptation and retention.
Mergulho profundo
Catastrophic forgetting occurs when learning new tasks degrades earlier capabilities. EWC penalizes changes to parameters important to earlier tasks; GEM constrains gradients using episodic examples under a local first-order approximation; iCaRL stores exemplars and uses class-mean features. LoRA freezes base weights and learns low-rank task updates, which may reduce direct interference but does not guarantee retention. The original RAG paper distinguishes sequence-level and token-level document marginalization. These mechanisms address different issues and require evaluation on old and new tasks.
Implementação no mundo real
Elastic Weight Consolidation penalizes changes to parameters estimated to be important for earlier tasks.
Experience replay mixes stored earlier examples with new-task examples during training.
LoRA keeps task-specific low-rank updates separate from frozen base weights in some adaptation settings.
Retrieval-augmented generation can consult an external index rather than storing every fact only in model parameters.
O futuro do esquecimento catastrófico
Evaluate old and new task performance after each update and make the retention criterion explicit. Choose methods based on data availability, storage and privacy constraints. Research benchmarks do not establish that any single technique prevents forgetting in all deployment settings.
Colocando em prática
Por que isso importa
- Velocidade e escala. Os fluxos de trabalho de idiomas podem avançar mais rapidamente sem sacrificar a consistência.
- Acesso e alcance. Ele expande o acesso entre idiomas e estilos de comunicação.
- Decisões mais claras. As equipes podem gastar mais tempo julgando enquanto a automação cuida da repetição.
Cuidado com
- Fatos alucinados podem entrar silenciosamente em relatórios, fluxos de apoio ou resultados de pesquisas.
- A sensibilidade do prompt pode criar resultados inconsistentes em solicitações semelhantes.
- Dados de texto confidenciais podem ser expostos se os controles de acesso forem fracos.
Próximas etapas
- Defina o formato de saída, o tom e os padrões de qualidade antes da implementação.
- Respostas terrestres com fontes confiáveis sempre que a precisão for importante.
- Mantenha um ponto de verificação de revisão humana para resultados de alto risco.
- Rastreie padrões de falha e treine novamente prompts ou fluxos de trabalho regularmente.
Continue explorando
Boletim informativo gratuito
Receba o resumo diário de IA
Três histórias verificadas de IA a cada manhã de dia útil, escritas em linguagem simples. Gratuito para sempre, sem anúncios.
Um e-mail a cada dia útil. Cancele a inscrição com um clique. Nunca vendemos ou compartilhamos seu endereço.
Teste você mesmo
Take the Catastrophic Forgetting quiz
Feedback instantâneo sobre cada resposta e um certificado compartilhável com um ID verificável assim que você concluir um curso.
Apoie a educação gratuita em IA. O AI Understanding é uma organização sem fins lucrativos 501(c)(3) — sem anúncios, sem paywall, nunca. Faça uma doação
Perguntas frequentes
What is Catastrophic Forgetting?
Catastrophic forgetting occurs when training on new tasks degrades performance on previously learned tasks. Continual-learning methods attempt to balance adaptation and retention.
Which situation describes catastrophic forgetting in a neural network?
O esquecimento catastrófico é a perda abrupta de capacidades antigas quando uma rede é treinada para uma nova tarefa, porque os pesos compartilhados são substituídos.
Por que o esquecimento catastrófico acontece nas redes neurais?
O conhecimento vive em parâmetros partilhados, pelo que a formação com base em novos dados altera esses mesmos pesos e apaga a aprendizagem anterior.
O que o Elastic Weight Consolidation (EWC) faz para reduzir o esquecimento?
O CEE adiciona uma penalização de regularização que retarda as atualizações de parâmetros considerados importantes para tarefas antigas, estimados através de informações da Fisher.
Como a repetição da experiência (ensaio) combate o esquecimento?
O ensaio mistura exemplos anteriores (armazenados ou gerados) enquanto aprende novas tarefas, de modo que o desempenho antigo é reforçado.
What does LoRA do to base-model weights when adding a task-specific adapter?
LoRA freezes base weights and trains low-rank updates for a task. This can reduce direct parameter interference but does not guarantee retention across every continual-learning sequence.
Continue aprendendo
Guias relacionados
Mais guias escolhidos para este tópico