引導式測驗 · 中等 等級
測試時計算擴展測驗
回顧推理時間計算、候選搜尋、自適應分配以及測試時間研究中測量的成本延遲權衡。
問題 1 的 8
「測試時計算」指的是什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 「測試時計算」指的是什麼?
- 用於訓練資料模型的計算量
- 下載模型所需的時間
- 模型在推理時回答查詢時所花費的計算量
- 用於冷卻資料中心的電力
- 在推論時擴展研究中,額外的推論運算可用於什麼?
- 在請求期間更改模型的訓練資料
- 自動增加模型參數數量
- 在未評估的情況下保證正確性
- 搜尋或修訂候選解決方案並檢查其品質
- 測試時計算擴充的核心權衡是什麼?
- 更高的準確度換取更多的延遲和成本
- 記憶體較少但訓練速度較慢
- 更多數據但更小的模型
- 較低解析度下的較好圖形
- 什麼是「N 次最佳」採樣?
- 在 N 個最大的資料集上進行訓練
- 產生 N 個候選答案並選擇最佳答案
- 僅使用提示的前 N 個單字
- 在 N 台不同的計算機上運行模型以提高速度
- 為什麼測試時計算被視為新的「縮放軸」?
- 它取代了任何訓練的需要
- 僅適用於小型型號
- 它透過添加推理計算而不僅僅是增加模型大小來提高效能
- 它減少了模型可以服務的用戶數量
- 測試時計算能帶來什麼令人驚訝的結果?
- 模型無需任何 GPU 即可運行
- 訓練資料變得不必要
- 模特兒總是回答得更快
- 思考時間較長的較小模型可以與即時回答的較大模型相媲美
- 固定最佳- N 策略可能浪費推理計算的原因之一是什麼?
- 它在簡單和困難提示上花費相同的候選預算
- 它在每個查詢上修改模型權重
- 它無法生成多個候選
- 它消除了評分的需要
- 測試時計算論文將什麼與最佳- N 抽樣進行比較?
- 一種禁用推理的策略
- 一種根據預期解決方案品質分配努力的計算最佳策略
- 更大的分詞器詞彙表
- 一種改變圖像解析度的方法