Cuestionario vinculado a una guía · Medio Nivel
Prueba de aprendizaje continuo y olvido catastrófico
Revise el olvido catastrófico, la estabilidad-plasticidad, el CEE, la repetición, las familias de tareas y los límites del aprendizaje continuo. Verificar alcance y supuestos.
Pregunta 1 de 8
¿Qué es el 'olvido catastrófico'?
Vista previa de cada pregunta8 preguntas
Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.
- ¿Qué es el 'olvido catastrófico'?
- Cuando aprender una nueva tarea degrada drásticamente el rendimiento en tareas aprendidas previamente
- Cuando un modelo se queda sin memoria y falla
- Cuando los datos de entrenamiento se eliminan accidentalmente
- Cuando un modelo se niega a hacer predicciones
- La compensación central del aprendizaje continuo a menudo se denomina:
- Compensación sesgo-varianza
- Dilema estabilidad-plasticidad
- Compensación entre velocidad y precisión
- Compensación entre exploración y explotación
- ¿Qué hace la consolidación de peso elástico (EWC)?
- Elimina neuronas sin importancia.
- Duplica la tasa de aprendizaje para nuevas tareas
- Penaliza los cambios de peso importantes para tareas aprendidas previamente
- Almacena para siempre todos los ejemplos de entrenamiento anteriores
- ¿Cómo combaten los métodos basados en la repetición el olvido?
- Congelando toda la red permanentemente
- Utilizando una mayor tasa de aprendizaje
- Eliminando la función de pérdida
- Intercalando ejemplos antiguos almacenados o generados en nueva capacitación
- How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- ¿Por qué un ajuste ingenuo de una nueva tarea provoca olvido?
- La GPU se sobrecalienta y corrompe la memoria.
- El descenso de gradiente mueve los pesos compartidos hacia la nueva tarea sin restricciones para preservar los antiguos.
- Las nuevas tareas siempre tienen más datos
- El modelo elimina intencionalmente pesos antiguos.
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones