引导式测验 · 中等 等级
带约束的引导束搜索测验
涵盖束搜索、词汇和语法约束、动态束分配以及语法和语义有效性之间的区别。
问题 1 的 8
普通波束搜索在每个生成步骤中保留什么?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 普通波束搜索在每个生成步骤中保留什么?
- Top-k 最可能的部分序列
- 仅单个最可能的标记
- 所有可能的序列
- 序列的随机样本
- 像网格波束搜索这样的词法约束方法如何组织波束?
- 仅按输出长度
- 每个梁满足多少个所需的约束
- 按字母顺序
- 仅靠模型的置信度
- 在语法约束解码中,如何防止无效输出?
- 通过在生成后删除不良令牌
- 通过有效示例重新训练模型
- 通过屏蔽标记概率,只允许使用语法有效的标记
- 通过降低温度
- 动态光束分配解决什么问题?
- 它消除了约束的需要
- 它使模型更大
- 它完全消除了波束搜索
- 它有效地跨约束进度级别共享梁槽
- 语法约束解码何时可以生成语法有效的 JSON?
- 当通过补全强制执行语法约束且输出未被截断时
- 每当提示词中提到 JSON 时
- 即使运行时在所需的闭合标记之前停止
- 无论当前活动的语法是否与预期的模式匹配
- 为什么硬约束会在没有特殊处理的情况下挤出好的序列?
- 它们使所有光束都相同
- 忽略约束的高概率光束可能会主导 top-k
- 它们会减慢 GPU 速度
- 他们增加词汇量
- 词法约束要求翻译中包含“bridge”和“river”。受限束搜索强制执行的是什么?
- 输出恰好有两个单词
- 模型仅使用一个束
- 完成的输出包含所需的术语
- 翻译在事实上是准确的
- 语法受限的生成器返回成功解析的 JSON。这本身不能证明什么?
- 输出遵循语法
- 必需字段可能存在
- 语法是有效的
- 值在事实上是正确的或适用于该应用程序