引导式测验 · 硬 等级

双下降现象测验

查看插值附近的双下降以及该现象如何随模型大小、数据集大小和训练持续时间而变化。

相关引导路径双下降现象
问题 1 的 8

测试误差通常在双下降曲线的何处达到峰值?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. 测试误差通常在双下降曲线的何处达到峰值?
    • 在模型刚好适合所有训练数据的插值阈值
    • 在训练一开始时参数很少
    • 只有在数十亿个参数之后
    • 测试误差永远不会达到峰值;它单调下降
  2. 当模型严重过度参数化时,测试错误会发生什么情况?
    • 由于过度拟合而无限上升
    • 它可以再次下降,通常低于经典最小值
    • 它保持完全平坦
    • 它变得随机且不可预测
  3. 所引用的隐式偏差分析在哪种情况下表征最小范数解决方案?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. “时代明智”的双重血统是指作为什么函数出现的效应?
    • 使用的 GPU 数量
    • 仅学习率表
    • 测试集的大小
    • 训练时间(epoch 数)
  5. 双血统挑战了哪一个经典观念?
    • 偏差-方差 U 形权衡
    • 反向传播
    • 随机梯度下降
    • 链式法则
  6. 谁在 2019 年帮助普及和规范了双下降曲线?
    • 牛顿和莱布尼茨
    • 贝尔金、许、马和曼达尔
    • 图灵与丘奇
    • 只有匿名的 Kaggle 竞争对手
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size