引导式测验 · 中等 等级

测试时计算扩展测验

回顾推理时间计算、候选搜索、自适应分配以及测试时间研究中测量的成本延迟权衡。

相关引导路径测试时间计算缩放
问题 1 的 8

“测试时计算”指的是什么？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. “测试时计算”指的是什么？
    • 用于训练数据模型的计算量
    • 下载模型所需的时间
    • 模型在推理时回答查询时所花费的计算量
    • 用于冷却数据中心的电力
  2. 在测试时扩展研究中，额外的推理计算可用于什么？
    • Changing the model’s training data during the request
    • Increasing the number of model parameters automatically
    • Guaranteeing correctness without evaluation
    • Searching or revising candidate solutions and checking their quality
  3. 测试时计算扩展的核心权衡是什么？
    • 更高的准确度换取更多的延迟和成本
    • 内存较少但训练速度较慢
    • 更多数据但更小的模型
    • 较低分辨率下的更好图形
  4. 什么是“N 次最佳”采样？
    • 在 N 个最大的数据集上进行训练
    • 生成 N 个候选答案并选择最佳答案
    • 仅使用提示的前 N 个单词
    • 在 N 台不同的计算机上运行模型以提高速度
  5. 为什么测试时计算被视为新的“缩放轴”？
    • 它取代了任何培训的需要
    • 仅适用于小型型号
    • 它通过添加推理计算而不仅仅是增加模型大小来提高性能
    • 它减少了模型可以服务的用户数量
  6. 测试时计算能带来什么令人惊讶的结果？
    • 模型无需任何 GPU 即可运行
    • 训练数据变得不必要
    • 模特总是回答得更快
    • 思考时间更长的较小模型可以与即时回答的较大模型相媲美
  7. What is one reason a fixed best-of-N strategy may waste inference compute?
    • It spends the same candidate budget on easy and difficult prompts
    • It modifies model weights on every query
    • It cannot generate multiple candidates
    • It eliminates the need for scoring
  8. What did the test-time compute paper compare with best-of-N sampling?
    • A strategy that disables inference
    • A compute-optimal strategy that allocates effort based on expected solution quality
    • A larger tokenizer vocabulary
    • A method that changes image resolution