引导式测验 · 硬 等级
双下降现象测验
查看插值附近的双下降以及该现象如何随模型大小、数据集大小和训练持续时间而变化。
问题 1 的 8
测试误差通常在双下降曲线的何处达到峰值?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 测试误差通常在双下降曲线的何处达到峰值?
- 在模型刚好适合所有训练数据的插值阈值
- 在训练一开始时参数很少
- 只有在数十亿个参数之后
- 测试误差永远不会达到峰值;它单调下降
- 当模型严重过度参数化时,测试错误会发生什么情况?
- 由于过度拟合而无限上升
- 它可以再次下降,通常低于经典最小值
- 它保持完全平坦
- 它变得随机且不可预测
- 所引用的隐式偏差分析在哪种情况下表征最小范数解决方案?
- Any neural network trained with gradient descent
- Any model that reaches zero training error
- A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
- A model trained without an optimization objective
- “时代明智”的双重血统是指作为什么函数出现的效应?
- 使用的 GPU 数量
- 仅学习率表
- 测试集的大小
- 训练时间(epoch 数)
- 双血统挑战了哪一个经典观念?
- 偏差-方差 U 形权衡
- 反向传播
- 随机梯度下降
- 链式法则
- 谁在 2019 年帮助普及和规范了双下降曲线?
- 牛顿和莱布尼茨
- 贝尔金、许、马和曼达尔
- 图灵与丘奇
- 只有匿名的 Kaggle 竞争对手
- Which model families did OpenAI report studying in its deep double-descent experiments?
- Only decision trees and linear regression
- Only recurrent speech recognizers
- Convolutional neural networks, ResNets, and transformers
- Only graphical game generators
- Besides model size and training duration, which axis can also show double-descent behavior?
- Font size in a report
- The number of words in a product name
- The screen resolution of a monitor
- Training dataset size