À suivreGuide suivant
Oubli catastrophique
IA linguistique
GUIDE des fondamentaux
Apprentissage continu et oubli catastrophique
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities.
Écoutez ce guideNarré par l'IA · ~1 min
Sur cette page1 minute de lecture
Aperçu
Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Plongée profonde
EWC uses a Fisher-information-based regularizer to discourage changes to parameters considered important for prior tasks. GEM uses episodic examples to constrain gradient updates; its guarantee concerns a local linear approximation to previous-task losses, so actual finite updates can still change performance. iCaRL stores exemplars, selects representatives with a herding procedure and classifies using per-class mean features. Replay methods revisit retained examples; these methods have different memory, privacy and compute tradeoffs. The stability-plasticity tradeoff describes balancing retention with learning new tasks.
Mise en œuvre dans le monde réel
Evaluate old and new tasks after each update.
Use replay samples when permitted by data policy.
Compare regularization methods such as EWC against fine-tuning.
Record task order and memory budget.
L’avenir de l’apprentissage continu et de l’oubli catastrophique
Continual-learning results depend on task sequence, model, data access, and evaluation protocol. Report both new-task learning and old-task retention.
Le mettre en pratique
Pourquoi c'est important
- Décisions plus claires. Il vous aide à séparer les affirmations techniques claires du langage marketing.
- Coût et budget. Vous pouvez poser de meilleures questions de mise en œuvre avant de dépenser de l'argent ou du temps.
- Équipe et flux de travail. Les équipes partageant une compréhension commune prennent de meilleures décisions en matière de produits, de politiques et d’apprentissage.
Attention à
- Différentes équipes peuvent utiliser le même terme différemment, alors définissez la portée dès le début.
- Les benchmarks peuvent paraître solides alors que les performances réelles sont inégales.
- Ignorer la qualité des données et les plans d’évaluation crée souvent des résultats fragiles.
Prochaines étapes
- Commencez par une définition en langage simple du résultat dont vous avez besoin.
- Choisissez une mesure de réussite et une condition d’échec avant de tester.
- Exécutez un petit pilote avec des données représentatives, pas un ensemble de démonstration raffiné.
- Documentez où l’apprentissage continu et l’oubli catastrophique sont utiles et où les méthodes plus simples sont meilleures.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the Continual Learning and Catastrophic Forgetting quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu’est-ce que l’apprentissage continu et l’oubli catastrophique ?
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities. Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
Qu’est-ce que « l’oubli catastrophique » ?
L'oubli catastrophique est la perte brutale des performances d'anciennes tâches lorsque les poids partagés d'un réseau sont écrasés lors de l'apprentissage de quelque chose de nouveau.
À quoi sert la consolidation de poids élastique (EWC) ?
EWC ajoute une pénalité (en utilisant les informations de Fisher) qui ancre les poids jugés importants pour les anciennes tâches, réduisant ainsi les oublis.
Comment les méthodes basées sur le replay luttent-elles contre l’oubli ?
Replay mélange les exemples passés dans de nouveaux lots afin que les dégradés reflètent à la fois les anciennes et les nouvelles tâches, se rapprochant ainsi des données conjointes d'origine.
How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
GEM projects updates using episodic-memory losses so the local first-order approximation does not increase loss on previous-task examples. This constraint is based on a local linearization and does not guarantee actual loss will never rise after every finite step.
Pourquoi un réglage naïf d’une nouvelle tâche provoque-t-il l’oubli ?
Les mises à jour de gradient sans contrainte réécrivent les pondérations partagées vers le nouvel optimal, abandonnant les régions qui étaient bonnes pour les tâches précédentes.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet