引導式測驗 · 硬 等級

推測性抽樣驗證測驗

測試精確的推測性抽樣、接受和糾正機率、草稿成本以及對其性能聲明的限制。

相關引導路徑推測性抽樣驗證
問題 1 的 8

推測性抽樣背後的核心思想是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 推測性抽樣背後的核心思想是什麼?
    • 使用小型草稿模型提出多個令牌,並由大型模型並行驗證
    • 訓練一個巨大的模型來動態地跳過層
    • 提前緩存每一個可能的句子
    • 用貪婪解碼代替採樣以節省時間
  2. 為什麼推測抽樣不會降低輸出品質?
    • 因為草稿模型總是正確的
    • 因為驗證規則使得最終的分佈與純目標取樣相同
    • 因為它只適用於簡短的提示
    • 因為它平均了兩個模型的輸出
  3. 在精確的推測式採樣中,當草擬的標記被拒絕時會發生什麼事?
    • 它輸出被拒絕的草稿代幣保持不變
    • 它會丟棄整段對話並重新開始
    • 演算法會從該位置的修正殘差分佈中抽樣
    • 它會永久改變目標模型
  4. 在精確的推測式採樣下,關於輸出分佈有什麼保證?
    • 它始終是確定性的
    • 它改為匹配草稿模型的分佈
    • 它比任何目標模型的輸出都更具多樣性
    • 它匹配目標模型的抽樣分佈
  5. 在精確的推測式採樣中,目標驗證傳遞提供什麼資訊?
    • 用於接受測試和剩餘重抽樣的提議位置的目標概率
    • 保證不需要目標模型計算
    • 僅使用草稿模型的下一個標記分佈
    • 一個已校正且不含任何抽樣的標記序列
  6. 哪個描述正確區分了兩種自我推測方法?
    • 兩者皆僅使用無關的小型草稿模型
    • Medusa 添加預測頭,而 EAGLE 使用特徵空間提議
    • Medusa 是分詞器,EAGLE 是獎勵模型
    • 兩者都將目標模型從解碼中移除
  7. 草稿將 0.8 的機率分配給一個 token,而目標則分配 0.4。推測接受機率是多少?
    • 0.2
    • 0.4
    • 0.5
    • 1.0
  8. 什麼因素最限制了推測抽樣實際的加速?
    • 模型介面的顏色
    • 目標模型名稱的長度
    • 提示中是否包含標點符號
    • 草稿模型的成本以及目標接受的建議工作量