引导式测验 · 中等 等级
对比解码测验
测试专家-业余评分、共享令牌抑制、合理性过滤、解码时间使用以及对比生成的评估。
问题 1 的 8
在对比解码中，小型“业余”模型扮演什么角色？
预览每个问题8 问题
当您参加测验时，就会出现答案和解释。
- 在对比解码中，小型“业余”模型扮演什么角色？
- 减去其对数概率以抑制共享故障模式
- 它直接生成最终的输出文本
- 它根据专家的错误进行微调
- 当专家不确定时，它会取代专家
- 为什么减去业余爱好者的概率会减少重复和乏味的输出？
- 业余爱好者受过训练，决不重复单词
- 两种模型都偏爱通用和重复标记，因此对比将它们抵消
- 业余爱好者在生成后删除重复的令牌
- 一旦两个模型投票就不可能重复
- 自适应合理性约束在对比解码中起什么作用？
- 它保证每个剩余的延续都是连贯且真实的
- 它用业余发行版取代了专家发行版
- 它过滤掉专家概率相对于专家的顶级标记太低的候选人
- 它强制每个令牌具有相同的概率
- 对比解码中的评分公式大致是什么？
- log p_amateur 减去 log p_expert
- p_专家时间p_业余
- 两个概率的平均值
- log p_expert 减去系数乘以 log p_amateur
- 对比解码的一个关键实际优势是：
- 在推理时工作，无需额外训练
- 需要联合重新训练两个模型
- 仅适用于分类任务
- 无需大型模型
- 后面哪种方法将对比思想扩展到单个模型自己的层？
- 集束搜索
- DoLa，对比早期层和晚期层
- 贪心解码
- 温标
- 专家将概率 0.4 分配给其顶级标记，合理性阈值是该值的 0.1。候选人保持资格的最小概率是多少？
- 0.4
- 0.1
- 0.04
- 0.004
- 为什么对比解码比单独使用专家模型需要更多的推理工作？
- 它必须针对每个提示重新训练两个模型
- 它用图像补丁代替词汇
- 它只运行业余模型
- 它在推理时使用专家模型和业余模型对候选者进行评分