Quiz sur l'oubli catastrophique

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

1. Quelle situation décrit un oubli catastrophique dans un réseau neuronal ?
   • Lorsque l'apprentissage d'une nouvelle tâche fait perdre à un modèle les capacités précédemment acquises
   • Lorsqu'un modèle manque de mémoire pendant l'inférence
   • Lorsque les données d'entraînement sont accidentellement supprimées
   • Quand un mannequin refuse de répondre à une question
2. Pourquoi des oublis catastrophiques se produisent-ils dans les réseaux neuronaux ?
   • Parce que chaque tâche obtient automatiquement son propre réseau distinct
   • Parce que les nouvelles mises à jour de dégradés écrasent les pondérations partagées qui codaient les anciennes compétences
   • Parce que les modèles ne peuvent pas stocker plus d'un fait
   • Parce que les couches d'attention suppriment volontairement les données
3. Que fait la consolidation élastique du poids (EWC) pour réduire les oublis ?
   • Supprime les données de la nouvelle tâche
   • Double le taux d'apprentissage
   • Pénalise les changements de poids importants pour les tâches apprises précédemment
   • Supprime l'attention du modèle
4. Comment se déroule l'expérience de relecture (répétition) de l'oubli de combat ?
   • En gelant définitivement l'ensemble du modèle
   • En vous formant uniquement sur les données les plus récentes
   • En réduisant le nombre de couches
   • En entrelaçant d'anciens exemples stockés lors de nouvelles formations
5. What does LoRA do to base-model weights when adding a task-specific adapter?
   • It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
   • It rewrites every base weight for each new task
   • It stores no task-specific parameters
   • It guarantees zero forgetting on every task sequence
6. Comment une approche de récupération augmentée évite-t-elle l’oubli catastrophique ?
   • En supprimant d'anciens savoirs pour faire de la place
   • En stockant les nouvelles connaissances dans une base de données externe au lieu des pondérations
   • En s'entraînant continuellement sur du bruit aléatoire
   • En désactivant complètement la mémoire du modèle
7. How does Gradient Episodic Memory (GEM) constrain learning on a new task?
   • It removes old task examples from memory
   • It changes the model to a nearest-class-mean classifier
   • It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
   • It adds a KL penalty to every parameter regardless of task
8. How do RAG-Token and RAG-Sequence differ in the original RAG paper?
   • RAG-Token removes retrieval while RAG-Sequence removes generation
   • RAG-Sequence uses images while RAG-Token uses audio
   • RAG-Token trains without model parameters
   • RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence