Teste de aprendizagem contínua e esquecimento catastrófico

As respostas e explicações aparecem conforme você responde ao teste.

1. O que é “esquecimento catastrófico”?
   • Quando aprender uma nova tarefa degrada drasticamente o desempenho em tarefas aprendidas anteriormente
   • Quando um modelo fica sem memória e trava
   • Quando os dados de treinamento são excluídos acidentalmente
   • Quando um modelo se recusa a fazer previsões
2. A compensação no cerne da aprendizagem contínua é frequentemente chamada de:
   • Troca de polarização-variância
   • Dilema estabilidade-plasticidade
   • Troca entre velocidade e precisão
   • Troca exploração-exploração
3. O que a Consolidação Elástica de Peso (EWC) faz?
   • Exclui neurônios sem importância
   • Duplica a taxa de aprendizagem para novas tarefas
   • Penaliza alterações em pesos importantes para tarefas aprendidas anteriormente
   • Armazena todos os exemplos de treinamento anteriores para sempre
4. Como os métodos baseados em repetição combatem o esquecimento?
   • Congelando toda a rede permanentemente
   • Usando uma taxa de aprendizagem maior
   • Removendo a função de perda
   • Intercalando exemplos antigos armazenados ou gerados em novos treinamentos
5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
   • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
   • It replaces all prior-task data with new examples
   • It freezes every parameter for all future tasks
   • It increases weights that were unimportant to earlier tasks
6. Por que o ajuste fino ingênuo de uma nova tarefa causa o esquecimento?
   • A GPU superaquece e corrompe a memória
   • A descida gradiente move os pesos compartilhados em direção à nova tarefa sem nenhuma restrição para preservar os antigos
   • Novas tarefas sempre têm mais dados
   • O modelo exclui intencionalmente pesos antigos
7. How does iCaRL classify a test example after learning multiple classes?
   • By retrieving the single closest word in a text corpus
   • By selecting the class with the largest Fisher information
   • By comparing its feature vector with per-class means computed from stored exemplars
   • By replaying every training image at inference
8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
   • New-task accuracy is the only relevant measure
   • Old tasks are removed from the evaluation
   • The model cannot be tested on multiple tasks
   • A method must also measure retention on prior tasks and its ability to learn new ones