引导式测验 · 硬 等级
机械可解释性测验
探索研究人员如何通过电路、特征和干预来研究神经网络的内部结构，同时保持当前的限制。
问题 1 的 8
机械可解释性的中心目标是什么？
预览每个问题8 问题
当您参加测验时，就会出现答案和解释。
- 机械可解释性的中心目标是什么？
- 将网络的内部计算逆向工程为人类可理解的算法
- 让模型训练得更快
- 压缩移动设备的模型
- 仅按重要性对输入特征进行排名
- 神经网络中的“叠加”指的是什么？
- 将多个模型堆叠在一起
- 通过使用重叠方向来表示比维度更多的特征
- 在多个 GPU 上运行模型
- 对不同运行的预测进行平均
- 稀疏自动编码器用于机械可解释性主要是为了......
- 生成训练数据
- 加快推理速度
- 将多语义激活分解为更清晰、更可解释的特征
- 加密模型权重
- 什么是“感应头”？
- Transformer 的硬件加速器
- 生成文本的输出层
- 损失函数的一种
- 注意力头复制并继续重复的标记模式，支持上下文学习
- 研究人员如何确认发现的电路确实执行了假设的计算？
- 通过因果干预，例如消融或修补特定激活
- 通过检查模型的训练准确性
- 通过计算参数的数量
- 通过测量推理延迟
- 研究机械可解释性的谨慎安全相关原因是什么？
- 证明每一个隐藏的行为都已经可以被发现
- 它可以提供有关内部计算的证据，而当前的方法并不是完整的审计或直接指导保证
- 它保证模型将遵循任何要求的修正
- 它取代了部署中模型行为的评估
- 如果稀疏自动编码器功能在描述为“金门大桥”的示例上激活，那么该观察结果表明了什么？
- 现在解释整个模型的计算
- 该特征保证是单个神经元
- 候选功能与这些示例相关，需要进一步测试以确定其作用
- 该功能会导致每个与桥相关的输出
- 为什么要通过不同的提示和示例来测试候选功能？
- 证明模型没有其他相关电路
- 保证解释可以推广到每个提示
- 检查模型行为的替代品
- 检查观察到的激活模式是否泛化到所选示例之外