ガイド連動クイズ · 中 レベル
テスト時のコンピューティング スケーリング クイズ
推論時間のコンピューティング、候補検索、適応型割り当て、およびテスト時間の研究で測定されたコストとレイテンシーのトレードオフを確認します。
質問 1 の 8
「テスト時の計算」とは何を指しますか?
すべての質問をプレビューする8 質問
クイズに答えると、答えと解説が表示されます。
- 「テスト時の計算」とは何を指しますか?
- データに基づくモデルのトレーニングに費やされる計算
- モデルのダウンロードにかかる時間
- 推論時にモデルがクエリに応答するときに費やされる計算
- データセンターの冷却に使用される電力
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- テスト時のコンピューティング スケーリングの主なトレードオフは何ですか?
- 遅延とコストの増加と引き換えに精度が向上
- メモリは少ないがトレーニングは遅い
- データは多いがモデルは小さい
- 低解像度でもグラフィックスが向上
- 「ベスト・オブ・N」サンプリングとは何ですか?
- N 個の最大のデータセットでのトレーニング
- N 個の回答候補を生成し、最適なものを選択する
- プロンプトの最初の N 単語のみを使用する
- 速度を上げるために N 台の異なるコンピューターでモデルを実行する
- テスト時の計算が新しい「スケーリング軸」とみなされるのはなぜですか?
- あらゆるトレーニングの必要性を置き換えます
- 小型モデルでのみ動作します
- モデルのサイズを拡大するだけでなく、推論コンピューティングを追加することでパフォーマンスを向上させます。
- モデルがサービスできるユーザーの数が減少します
- テスト時の計算によってどのような驚くべき結果が得られるのでしょうか?
- モデルは GPU なしで実行可能
- 学習データが不要になる
- モデルは常により速く応答します
- より長く考える小規模なモデルは、瞬時に応答するはるかに大きなモデルに匹敵する可能性があります
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution