Cuestionario vinculado a una guía · Medio Nivel

Prueba de aprendizaje continuo y olvido catastrófico

Revise el olvido catastrófico, la estabilidad-plasticidad, el CEE, la repetición, las familias de tareas y los límites del aprendizaje continuo. Verificar alcance y supuestos.

Pregunta 1 de 8

¿Qué es el 'olvido catastrófico'?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué es el 'olvido catastrófico'?
    • Cuando aprender una nueva tarea degrada drásticamente el rendimiento en tareas aprendidas previamente
    • Cuando un modelo se queda sin memoria y falla
    • Cuando los datos de entrenamiento se eliminan accidentalmente
    • Cuando un modelo se niega a hacer predicciones
  2. La compensación central del aprendizaje continuo a menudo se denomina:
    • Compensación sesgo-varianza
    • Dilema estabilidad-plasticidad
    • Compensación entre velocidad y precisión
    • Compensación entre exploración y explotación
  3. ¿Qué hace la consolidación de peso elástico (EWC)?
    • Elimina neuronas sin importancia.
    • Duplica la tasa de aprendizaje para nuevas tareas
    • Penaliza los cambios de peso importantes para tareas aprendidas previamente
    • Almacena para siempre todos los ejemplos de entrenamiento anteriores
  4. ¿Cómo combaten los métodos basados en la repetición el olvido?
    • Congelando toda la red permanentemente
    • Utilizando una mayor tasa de aprendizaje
    • Eliminando la función de pérdida
    • Intercalando ejemplos antiguos almacenados o generados en nueva capacitación
  5. How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
    • It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
    • It replaces all prior-task data with new examples
    • It freezes every parameter for all future tasks
    • It increases weights that were unimportant to earlier tasks
  6. ¿Por qué un ajuste ingenuo de una nueva tarea provoca olvido?
    • La GPU se sobrecalienta y corrompe la memoria.
    • El descenso de gradiente mueve los pesos compartidos hacia la nueva tarea sin restricciones para preservar los antiguos.
    • Las nuevas tareas siempre tienen más datos
    • El modelo elimina intencionalmente pesos antiguos.
  7. How does iCaRL classify a test example after learning multiple classes?
    • By retrieving the single closest word in a text corpus
    • By selecting the class with the largest Fisher information
    • By comparing its feature vector with per-class means computed from stored exemplars
    • By replaying every training image at inference
  8. Why is evaluating continual learning more than measuring final accuracy on the newest task?
    • New-task accuracy is the only relevant measure
    • Old tasks are removed from the evaluation
    • The model cannot be tested on multiple tasks
    • A method must also measure retention on prior tasks and its ability to learn new ones