引导式测验 · 中等 等级
光束搜索测验
探索集束搜索如何保留多个高分部分序列以及评分罚分如何塑造最终输出文本。
问题 1 的 8
波束搜索中“波束宽度”(k) 控制什么?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 波束搜索中“波束宽度”(k) 控制什么?
- 每个解码步骤保留多少个部分候选序列
- 生成序列的最大长度
- 应用于概率的温度
- 模型词汇量的大小
- 束搜索与贪婪解码有何不同?
- 它总是选择概率最高的单个令牌
- 它保留多个高分部分序列,而不是致力于一个
- 它随机采样令牌
- 它完全忽略了令牌概率
- 为什么长度归一化常用于集束搜索?
- 为了使生成速度更快
- 增加词汇量
- 因为对数概率求和会使分数偏向于较短的序列
- 为输出添加随机性
- 集束搜索特别适合哪种任务?
- 开放式的创意叙事
- 生成最大程度多样化的随机文本
- 创作不可预知的诗篇
- 机器翻译,需要忠实的高概率输出
- 使用非常大的波束宽度进行开放式发电的已知缺点是什么?
- 它可能会产生平淡、重复或简陋的文本
- 它保证了最具创意的输出
- 它消除了对任何概率模型的需要
- 它使模型忽略输入
- 在每一步中,集束搜索如何决定保留哪些候选者?
- 按标记的字母顺序排列
- 通过累积分数(对数概率之和),保留前 k 个
- 通过选择最长的候选人
- 在所有候选人中随机选择
- What problem does GNMT’s coverage penalty aim to reduce in translation?
- Repeatedly encoding the same source vocabulary
- The use of subword units
- Output translations that fail to cover source words
- The number of encoder layers
- What does diverse beam search modify to encourage different candidate outputs?
- It replaces the model probabilities with uniform random scores
- It removes all but one candidate at the first step
- It changes the training tokenizer after decoding
- It penalizes similarity or overlap among candidates in different beam groups