持续学习和灾难性遗忘
持续学习的目标是随着时间的推移训练人工智能执行一系列新任务，而不抹掉它已经知道的知识。
概述
Its central obstacle is catastrophic forgetting: when a neural network learns a new task, gradient updates overwrite the weights that encoded earlier tasks, and old skills collapse.
深入探讨
标准神经网络假设所有数据一次性可用。在现实世界中，数据是按顺序到达的，对新任务的天真微调会导致灾难性的遗忘——由于共享权重被重写，先前任务的性能直线下降。持续学习寻求平衡稳定性（保留旧知识）与可塑性（吸收新知识），这是典型的稳定性-可塑性困境。存在三个主要的解决方案：正则化方法，如弹性权重合并，惩罚对旧任务重要的权重的变化；重播方法存储或生成过去任务的样本并在训练期间交错它们；以及为每个任务分配新参数或模块的架构方法。没有一种方法可以完全解决这个问题，并且评估跨越任务、领域和类增量设置。
技术洞察
灾难性遗忘的出现是因为新任务的梯度下降将共享权重移向新的最优值，而没有限制留在适合旧任务的区域附近。弹性权重合并（Elastic Weight Consolidation）估计每个权重的重要性（通过 Fisher 信息矩阵），并添加二次惩罚，将重要权重锚定在其旧值附近。重放通过将存储或生成的旧示例混合到新批次中来近似原始联合分布，因此梯度反映了旧任务和新任务，从而减少了破坏性覆盖。
战略影响
更清晰的判决
它可以帮助您将清晰的技术声明与营销语言分开。
成本与预算
在花费金钱或时间之前，您可以提出更好的实施问题。
团队与工作流程
具有共同理解的团队可以做出更好的产品、政策和学习决策。
持续学习和灾难性遗忘的未来
持续学习对于保持大型模型的最新性越来越重要，而无需进行全面、昂贵的再培训。研究正在推动参数高效的持续更新（适配器、每个任务添加的 LoRA 模块）、使用生成模型更好地重放，以及更新基础模型中的知识同时避免遗忘和不必要的漂移的方法。期望与终生代理建立更紧密的联系，这些代理在设备上学习、保护隐私的重放，避免存储原始数据，以及更好地反映现实的非平稳数据流而不是整齐的任务边界的基准。
现实世界的实施
已部署的图像分类器必须每月学习新的产品类别，而不会忘记较早的产品类别。
设备上的个性化（键盘或语音助手）可以随着时间的推移适应用户，而不会失去总体准确性。
机器人可以依次获得新的操作技能，同时保留以前掌握的技能。
使用适配器使用新事实或域更新语言模型，从而保留先前的功能。
风险与防护栏
不同的团队可能会以不同的方式使用同一术语，因此请尽早定义范围。
基准测试可能看起来很强大，但实际性能却参差不齐。
忽视数据质量和评估计划通常会产生脆弱的结果。
实施路线图
从您需要的结果的简单语言定义开始。
在测试之前选择一种成功指标和一种失败条件。
使用代表性数据运行小型试点，而不是完善的演示集。
记录持续学习和灾难性遗忘在哪些方面有帮助，以及哪些更简单的方法更好。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Continual Learning and Catastrophic Forgetting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Continual Learning and Catastrophic Forgetting?
持续学习的目标是随着时间的推移训练人工智能执行一系列新任务，而不抹掉它已经知道的知识。它的核心障碍是灾难性遗忘：当神经网络学习新任务时，梯度更新会覆盖编码早期任务的权重，旧的技能就会崩溃。
什么是“灾难性遗忘”？
灾难性遗忘是指当网络的共享权重在学习新东西时被覆盖时，旧任务性能的急剧下降。
弹性权重合并 (EWC) 有什么作用？
EWC 添加了惩罚（使用 Fisher 信息），锚定对旧任务重要的权重，从而减少遗忘。
基于重放的方法如何对抗遗忘？
重播将过去的示例混合到新的批次中，因此梯度反映了新旧任务，近似原始联合数据。
哪一个不是持续学习方法的三个主要系列之一？
三个主要系列是正则化、重播和架构方法；压缩不是其中之一。
为什么对新任务进行天真的微调会导致遗忘？
无约束的梯度更新将共享权重重写为新的最优值，放弃了对先前任务有利的区域。