引导式测验 · 中等 等级

Dropout 和随机正则化测验

测试随机掩码、训练和推理模式、反向缩放、共同适应限制、MC dropout 和变量预测。

相关引导路径Dropout 和随机正则化
问题 1 的 8

dropout在训练过程中做了什么?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. dropout在训练过程中做了什么?
    • 永久删除权重
    • 在每次前向传递中随机将一部分神经元输出设置为零
    • 学习率加倍
    • 向网络添加更多层
  2. 为什么 dropout 可以提高泛化能力?
    • 它增加了参数的数量
    • 它消除了对训练数据的需要
    • 保证零训练误差
    • 它阻止神经元共同适应并强制冗余、稳健的表示
  3. 测试(推理)时丢失会发生什么?
    • 已关闭并使用完整网络
    • 它会掉落更多的神经元
    • 它删除了一半的权重
    • 它随机化标签
  4. 一层中 p = 0.5 的 dropout 率在训练期间大致意味着什么?
    • 所有神经元都被移除
    • 没有神经元受到影响
    • 每次传递时大约有一半的神经元被清零
    • 图层被删除
  5. 通常将 dropout 描述为近似值是什么?
    • 单一线性回归
    • 决策树
    • 傅立叶变换
    • 许多共享权重的稀疏网络的集合
  6. 蒙特卡罗 dropout 有何用途?
    • 加快数据加载速度
    • 通过在推理时保持 dropout 活跃来估计模型不确定性
    • 将网络压缩为更少的权重
    • 自动标记训练数据
  7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
    • The keep probability becomes exactly zero
    • Inference always averages new random masks
    • Surviving activations were already scaled during training
    • Every weight is divided by the number of layers
  8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
    • New random masks sample different subnetworks on each pass
    • The input changes its label by itself
    • The network has no trained weights
    • Batch size must be one