引导式测验 · 中等 等级
重复惩罚和解码控制测验
比较温度、top-k、top-p 和重复惩罚，包括 LLM 生成工作流程中采样之前 logits 的变化情况。
问题 1 的 8
提高“温度”参数对模型的输出有何影响？
预览每个问题8 问题
当您参加测验时，就会出现答案和解释。
- 提高“温度”参数对模型的输出有何影响？
- 使其更加随机和多样化
- 使其更具确定性和针对性
- 永久更改模型的权重
- 加快生成速度
- top-p（核心）采样如何决定考虑哪些标记？
- 无论概率如何，它都会保留固定数量的令牌
- 它保留概率总和达到阈值的最小标记集
- 它只保留单个最有可能的令牌
- 它保留令牌的概率高于 50%
- 重复惩罚通常在什么阶段发生？
- 论生成后的原始文本
- 关于训练数据
- 关于 softmax 之前的 logits
- 关于分词器词汇
- In OpenAI’s text-generation API, how do presence and frequency penalties differ?
- 存在惩罚与令牌数量相关；频率惩罚是平坦的
- 它们是相同的
- 两者仅适用于第一个令牌
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- For code completion where deterministic sampling is desired, which setting best matches the guide?
- 温度接近零
- 温度非常高
- 高于 2.0 的高重复罚分
- 高温情况下 Top-p 为 1.0
- top-k 采样有什么作用？
- 保持令牌总和为概率 k
- 仅保留 k 个最可能的标记作为候选标记
- 将所有 logits 乘以 k
- 从训练中删除 k 个最不可能的标记
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set