引导式测验 · 中等 等级

灾难性遗忘测验

研究为什么顺序学习新任务会降低以前的技能，以及持续学习方法如何解决这种权衡问题。

相关引导路径灾难性遗忘
问题 1 的 8

哪种情况描述了神经网络中的灾难性遗忘？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 哪种情况描述了神经网络中的灾难性遗忘？
    • 当学习新任务导致模型失去以前学习的能力时
    • 当模型在推理过程中内存不足时
    • 当训练数据被意外删除时
    • 当模特拒绝回答问题时
  2. 为什么神经网络会发生灾难性遗忘？
    • 因为每个任务都会自动获得自己独立的网络
    • 因为新的梯度更新会覆盖编码旧技能的共享权重
    • 因为模型不能存储多个事实
    • 因为注意力层故意删除数据
  3. 弹性权重巩固（EWC）如何减少遗忘？
    • 删除新任务的数据
    • 学习率加倍
    • 惩罚对之前学习的任务很重要的权重变化
    • 消除模型的注意力
  4. 体验重播（排练）如何对抗遗忘？
    • 通过永久冻结整个模型
    • 仅根据最新数据进行训练
    • 通过减少层数
    • 通过在新训练期间交错存储的旧示例
  5. What does LoRA do to base-model weights when adding a task-specific adapter?
    • It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
    • It rewrites every base weight for each new task
    • It stores no task-specific parameters
    • It guarantees zero forgetting on every task sequence
  6. 检索增强方法如何避免灾难性遗忘？
    • 通过删除旧知识来腾出空间
    • 通过将新知识而不是权重存储在外部数据库中
    • 通过对随机噪声进行连续训练
    • 通过完全禁用模型的内存
  7. How does Gradient Episodic Memory (GEM) constrain learning on a new task?
    • It removes old task examples from memory
    • It changes the model to a nearest-class-mean classifier
    • It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
    • It adds a KL penalty to every parameter regardless of task
  8. How do RAG-Token and RAG-Sequence differ in the original RAG paper?
    • RAG-Token removes retrieval while RAG-Sequence removes generation
    • RAG-Sequence uses images while RAG-Token uses audio
    • RAG-Token trains without model parameters
    • RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence