引導式測驗 · 硬 等級
Mirostat Perplexity 控制測驗
涵蓋 Mirostat 的目標驚訝/困惑、反饋閾值、更新率、版本差異和解碼啟發式限制。
問題 1 的 8
What does Mirostat try to control during generation?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- What does Mirostat try to control during generation?
- A target level of output perplexity or surprise
- 模型參數個數
- The training dataset size
- GPU溫度
- Mirostat 與標準 top-k 或 top-p 採樣有何根本不同?
- 它從不使用隨機性
- 它使用反饋而不是固定截止來動態調整截斷
- 它僅適用於圖像
- 需要重新訓練模型
- 在Mirostat中,參數eta扮演什麼角色?
- 它設定詞彙量大小
- 它固定輸出長度
- 學習率控制閾值適應的速度
- 它禁用採樣
- Mirostat 版本 2 相對於版本 1 的主要改進是什麼?
- 它也產生圖像
- 它需要更多的內存
- 它刪除了 tau 參數
- 它放棄了 Zipfian 分佈的假設,以實現更簡單、更穩健的控制
- 如果 Mirostat 偵測到輸出變得太可預測,它將:
- 放寬截斷以接納更多樣化的標記
- 收緊截斷以允許更少的令牌
- 立即停止發電
- 增加模型尺寸
- Which Mirostat settings does current llama.cpp expose?
- Tokenizer vocabulary and number of layers
- Mode, target tau, and learning-rate eta
- Only the prompt length
- Training epochs and validation loss
- What does eta control in Mirostat’s feedback update?
- The size of the model vocabulary
- The target number of output tokens
- How strongly the threshold changes in response to the observed error
- The probability of a correct factual answer
- What does a Mirostat target not guarantee by itself?
- That the sampler reads token probabilities
- That the setting can influence surprise
- That the output contains tokens
- That the generated text is factually correct