ガイド連動クイズ · 中 レベル

勾配降下クイズ

単純な勾配降下方向、学習率ステップ、サンプリングされた勾配、運動量、アダム適応、数値更新、および静止点制限を確認します。

関連するガイドパス勾配降下法
質問 1 の 8

In plain gradient descent, which direction is used relative to the objective's gradient?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. 学習率は何を制御するのでしょうか?
    • モデル内のレイヤーの数
    • モデルが予測できるクラスの数
    • 最適化中に実行される各ステップのサイズ
    • 使用されるトレーニング データの量
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. 学習率が大きすぎるとどのような問題が発生する可能性がありますか?
    • トレーニングは非常に遅くなりますが、安定します
    • モデルは勾配を無視します
    • データセットが破損する
    • モデルは最小値をオーバーシュートしており、発散する可能性があります
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. 単純な勾配降下法と比較した Adam オプティマイザーの重要な機能は何ですか?
    • 各パラメータの有効学習率を調整します
    • すべてのパラメータに対して単一の固定ステップを使用します
    • グラデーションは必要ありません
    • 出力層のみをトレーニングします
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • 3
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds