引导式测验 · 中等 等级

带动量测验的随机梯度下降

测试累积速度、振荡阻尼、系数效应、一致梯度、Adam 连接和零动量行为。

相关引导路径带动量的随机梯度下降
问题 1 的 8

训练过程中动量项积累了什么？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 训练过程中动量项积累了什么？
    • 训练epoch总数
    • 过去梯度的运行（指数加权）平均值
    • 数据集的大小
    • 模型的准确率历史记录
  2. 在又长又窄的峡谷中，普通 SGD 会遇到什么问题而动量可以帮助解决？
    • 数值溢出
    • 它停止计算梯度
    • 它自动提高学习率
    • 它在陡峭的墙壁上曲折前进，同时沿着地板缓慢前进
  3. 动量系数的常见默认值为：
    • 0.9
    • 0.0
    • 0.5
    • 2.0
  4. 哪种物理类比最常用于描述动量？
    • 钟摆永远摆动
    • 弹簧弹回
    • 一个重球滚下坡
    • 水结冰
  5. 当 beta = 0.9 时，动量将沿一致方向的有效步骤放大大约多少？
    • 约2次
    • 约0.1倍
    • 无放大
    • 约10次
  6. 哪种现代优化器包含动量式一阶矩估计？
    • 牛顿法
    • 亚当
    • K-均值
    • 随机搜索
  7. In the update v = beta times v plus gradient, what happens when beta is zero?
    • The old velocity is doubled
    • Every gradient becomes zero
    • The previous velocity is discarded and the current gradient determines the step
    • The parameters stop depending on the learning rate
  8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
    • Their opposing contributions can partially cancel in accumulated velocity
    • All past gradients are stored as separate parameters
    • The loss becomes convex automatically
    • Momentum ignores the current gradient entirely