引导式测验 · 中等 等级

梯度下降测验

回顾简单的梯度下降方向、学习率步长、采样梯度、动量、Adam 适应、数值更新和驻点限制。

相关引导路径梯度下降
问题 1 的 8

在普通梯度下降中,相对于目标梯度使用哪个方向?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. 在普通梯度下降中,相对于目标梯度使用哪个方向?
    • 负梯度方向
    • 正梯度方向
    • 根据定义任意垂直方向
    • 不评估任何梯度而选择的方向
  2. 学习率控制什么?
    • 模型中的层数
    • 模型可以预测多少类
    • 优化期间所采取的每个步骤的大小
    • 使用的训练数据量
  3. 小批量梯度与完整选择的训练数据目标有何关系?
    • 它没有使用任何示例
    • 它是在批次上计算的,并用作全数据梯度的估计
    • 它必须等于每一步的全数据梯度
    • 它只存在于图像中
  4. 学习率太大会导致什么问题?
    • 训练变得极其缓慢但稳定
    • 该模型忽略梯度
    • 数据集已损坏
    • 模型超出最小值并且可能出现偏差
  5. 动量会在以后的梯度下降更新中携带哪些信息?
    • 仅模型的词汇量大小
    • 永久删除所有早期梯度
    • 早期梯度的运行加权组合
    • 每个权重的不相关随机重置
  6. 与普通梯度下降相比,Adam 优化器的关键特征是什么?
    • 它调整每个参数的有效学习率
    • 它对每个参数使用单个固定步骤
    • 它不需要渐变
    • 它只训练输出层
  7. 对于旧权重为二、梯度为三、学习率为十分之一的普通梯度下降,新权重是多少?
    • 两分三
    • 一点九七
    • 三
    • 一点七
  8. 对于非凸训练目标,零梯度无法证明什么?
    • 在评估点处梯度值为零
    • 当前点是全局最小值
    • 该目标已在当地进行了评估
    • 驻点条件成立