引导式测验 · 中等 等级
Dropout 和随机正则化测验
测试随机掩码、训练和推理模式、反向缩放、共同适应限制、MC dropout 和变量预测。
问题 1 的 8
dropout在训练过程中做了什么?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- dropout在训练过程中做了什么?
- 永久删除权重
- 在每次前向传递中随机将一部分神经元输出设置为零
- 学习率加倍
- 向网络添加更多层
- 为什么 dropout 可以提高泛化能力?
- 它增加了参数的数量
- 它消除了对训练数据的需要
- 保证零训练误差
- 它阻止神经元共同适应并强制冗余、稳健的表示
- 测试(推理)时丢失会发生什么?
- 已关闭并使用完整网络
- 它会掉落更多的神经元
- 它删除了一半的权重
- 它随机化标签
- 一层中 p = 0.5 的 dropout 率在训练期间大致意味着什么?
- 所有神经元都被移除
- 没有神经元受到影响
- 每次传递时大约有一半的神经元被清零
- 图层被删除
- 通常将 dropout 描述为近似值是什么?
- 单一线性回归
- 决策树
- 傅立叶变换
- 许多共享权重的稀疏网络的集合
- 蒙特卡罗 dropout 有何用途?
- 加快数据加载速度
- 通过在推理时保持 dropout 活跃来估计模型不确定性
- 将网络压缩为更少的权重
- 自动标记训练数据
- With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
- The keep probability becomes exactly zero
- Inference always averages new random masks
- Surviving activations were already scaled during training
- Every weight is divided by the number of layers
- The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
- New random masks sample different subnetworks on each pass
- The input changes its label by itself
- The network has no trained weights
- Batch size must be one