引導式測驗 · 中等 等級

測試時計算擴展測驗

回顧推理時間計算、候選搜尋、自適應分配以及測試時間研究中測量的成本延遲權衡。

相關引導路徑測試時間計算縮放
問題 1 的 8

「測試時計算」指的是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 「測試時計算」指的是什麼?
    • 用於訓練資料模型的計算量
    • 下載模型所需的時間
    • 模型在推理時回答查詢時所花費的計算量
    • 用於冷卻資料中心的電力
  2. 在推論時擴展研究中,額外的推論運算可用於什麼?
    • 在請求期間更改模型的訓練資料
    • 自動增加模型參數數量
    • 在未評估的情況下保證正確性
    • 搜尋或修訂候選解決方案並檢查其品質
  3. 測試時計算擴充的核心權衡是什麼?
    • 更高的準確度換取更多的延遲和成本
    • 記憶體較少但訓練速度較慢
    • 更多數據但更小的模型
    • 較低解析度下的較好圖形
  4. 什麼是「N 次最佳」採樣?
    • 在 N 個最大的資料集上進行訓練
    • 產生 N 個候選答案並選擇最佳答案
    • 僅使用提示的前 N 個單字
    • 在 N 台不同的計算機上運行模型以提高速度
  5. 為什麼測試時計算被視為新的「縮放軸」?
    • 它取代了任何訓練的需要
    • 僅適用於小型型號
    • 它透過添加推理計算而不僅僅是增加模型大小來提高效能
    • 它減少了模型可以服務的用戶數量
  6. 測試時計算能帶來什麼令人驚訝的結果?
    • 模型無需任何 GPU 即可運行
    • 訓練資料變得不必要
    • 模特兒總是回答得更快
    • 思考時間較長的較小模型可以與即時回答的較大模型相媲美
  7. 固定最佳- N 策略可能浪費推理計算的原因之一是什麼?
    • 它在簡單和困難提示上花費相同的候選預算
    • 它在每個查詢上修改模型權重
    • 它無法生成多個候選
    • 它消除了評分的需要
  8. 測試時計算論文將什麼與最佳- N 抽樣進行比較?
    • 一種禁用推理的策略
    • 一種根據預期解決方案品質分配努力的計算最佳策略
    • 更大的分詞器詞彙表
    • 一種改變圖像解析度的方法