Questionário vinculado ao guia · Médio Nível
Questionário sobre esquecimento catastrófico
Estude por que o aprendizado sequencial de novas tarefas pode degradar habilidades anteriores e como os métodos de aprendizado contínuo abordam essa compensação.
Pergunta 1 de 8
Which situation describes catastrophic forgetting in a neural network?
Visualize cada pergunta8 perguntas
As respostas e explicações aparecem conforme você responde ao teste.
- Which situation describes catastrophic forgetting in a neural network?
- Quando aprender uma nova tarefa faz com que o modelo perca habilidades aprendidas anteriormente
- Quando um modelo fica sem memória durante a inferência
- Quando os dados de treinamento são excluídos acidentalmente
- Quando um modelo se recusa a responder a uma pergunta
- Por que o esquecimento catastrófico acontece nas redes neurais?
- Porque cada tarefa obtém sua própria rede separada automaticamente
- Porque novas atualizações de gradiente substituem pesos compartilhados que codificavam habilidades antigas
- Porque os modelos não podem armazenar mais de um fato
- Porque as camadas de atenção excluem dados propositalmente
- O que o Elastic Weight Consolidation (EWC) faz para reduzir o esquecimento?
- Exclui os dados da nova tarefa
- Duplica a taxa de aprendizagem
- Penaliza alterações em pesos importantes para tarefas aprendidas anteriormente
- Tira a atenção do modelo
- Como a repetição da experiência (ensaio) combate o esquecimento?
- Congelando todo o modelo permanentemente
- Treinando apenas com os dados mais recentes
- Ao reduzir o número de camadas
- Intercalando exemplos antigos armazenados durante um novo treinamento
- What does LoRA do to base-model weights when adding a task-specific adapter?
- It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
- It rewrites every base weight for each new task
- It stores no task-specific parameters
- It guarantees zero forgetting on every task sequence
- Como uma abordagem de recuperação aumentada evita o esquecimento catastrófico?
- Excluindo conhecimentos antigos para abrir espaço
- Armazenando novos conhecimentos em um banco de dados externo em vez dos pesos
- Treinando continuamente com ruído aleatório
- Ao desabilitar totalmente a memória do modelo
- How does Gradient Episodic Memory (GEM) constrain learning on a new task?
- It removes old task examples from memory
- It changes the model to a nearest-class-mean classifier
- It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
- It adds a KL penalty to every parameter regardless of task
- How do RAG-Token and RAG-Sequence differ in the original RAG paper?
- RAG-Token removes retrieval while RAG-Sequence removes generation
- RAG-Sequence uses images while RAG-Token uses audio
- RAG-Token trains without model parameters
- RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence