引导式测验 · 硬 等级
Mirostat Perplexity 控制测验
涵盖 Mirostat 的目标惊讶/困惑、反馈阈值、更新率、版本差异和解码启发式限制。
问题 1 的 8
What does Mirostat try to control during generation?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- 模型参数个数
- The training dataset size
- GPU温度
- Mirostat 与标准 top-k 或 top-p 采样有何根本不同?
- 它从不使用随机性
- 它使用反馈而不是固定截止来动态调整截断
- 它仅适用于图像
- 需要重新训练模型
- 在Mirostat中,参数eta起什么作用?
- 它设置词汇量大小
- 它固定输出长度
- 学习率控制阈值适应的速度
- 它禁用采样
- Mirostat 版本 2 相对于版本 1 的主要改进是什么?
- 它也生成图像
- 它需要更多的内存
- 它删除了 tau 参数
- 它放弃了 Zipfian 分布的假设,以实现更简单、更稳健的控制
- 如果 Mirostat 检测到输出变得过于可预测,它将:
- 放宽截断以接纳更多样化的标记
- 收紧截断以允许更少的令牌
- 立即停止发电
- 增加模型尺寸
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- The size of the model vocabulary
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- That the sampler reads token probabilities
- That the setting can influence surprise
- That the output contains tokens
- That the generated text is factually correct