ガイド連動クイズ · ハード レベル

二重降下現象クイズ

内挿付近の二重降下と、モデル サイズ、データセット サイズ、トレーニング期間によって現象がどのように変化するかを確認します。

関連するガイドパス二重降下現象
質問 1 の 8

通常、テスト誤差は二重降下曲線のどこでピークに達しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. 通常、テスト誤差は二重降下曲線のどこでピークに達しますか?
    • モデルがすべてのトレーニング データにちょうど適合する内挿しきい値で
    • パラメータが少ないトレーニングの開始時
    • 数十億のパラメータを経て初めて
    • テスト誤差がピークに達することはありません。単調に落ちていく
  2. モデルが過度にパラメータ化されるとテストエラーはどうなるでしょうか?
    • 過学習により無限に上昇する
    • 再び減少する可能性があり、多くの場合古典的な最小値を下回ります
    • まさにフラットなままです
    • それはランダムで予測不可能になります
  3. どの設定で引用された暗黙バイアス分析が最小ノルム解を特徴付けますか？
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. 「時代ごとの」二重降下とは、何の関数として現れる効果を指しますか?
    • 使用されるGPUの数
    • 学習率スケジュールのみ
    • テストセットのサイズ
    • トレーニング時間 (エポック数)
  5. 二重降下が挑戦する古典的なアイデアはどれですか?
    • バイアスと分散の U 字型トレードオフ
    • バックプロパゲーション
    • 確率的勾配降下法
    • 連鎖の法則
  6. 2019 年に二重降下曲線の普及と正式化に貢献したのは誰ですか?
    • ニュートンとライプニッツ
    • ベルキン、スー、マー、マンダル
    • チューリングと教会
    • 匿名の Kaggle 競合他社のみ
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size