ドロップアウトと確率的正則化に関するクイズ

クイズに答えると、答えと解説が表示されます。

1. ドロップアウト者はトレーニング中に何をしますか?
   • ウェイトを完全に削除します
   • 各前方パスでニューロン出力の一部をランダムにゼロに設定します
   • 学習率が2倍になる
   • ネットワークにさらに多くのレイヤーを追加します
2. なぜドロップアウトによって一般化が改善されるのでしょうか?
   • パラメーターの数が増えます
   • トレーニングデータが不要になります
   • トレーニングエラーがゼロであることを保証します
   • ニューロンの同時適応を妨げ、冗長で堅牢な表現を強制します。
3. テスト（推論）時のドロップアウトはどうなりますか?
   • オフになり、ネットワーク全体が使用されます
   • さらに多くのニューロンが低下します
   • ウェイトの半分を削除します
   • ラベルをランダム化します
4. 層内のドロップアウト率 p = 0.5 は、トレーニング中におおよそ何を意味しますか?
   • すべてのニューロンが除去される
   • ニューロンは影響を受けません
   • 各パスで約半数のニューロンがゼロに設定されます
   • レイヤーが削除されました
5. ドロップアウトが近似的であるとよく言われるのは何ですか?
   • 単一の線形回帰
   • 決定木
   • フーリエ変換
   • 重みを共有する多くの薄くされたネットワークのアンサンブル
6. モンテカルロドロップアウトは何に使用されますか?
   • データ読み込みの高速化
   • 推論時にドロップアウトをアクティブに保つことによるモデルの不確実性の推定
   • ネットワークをより少ない重みに圧縮する
   • トレーニング データに自動的にラベルを付ける
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one