Quiz połączony z przewodnikiem · Średni Poziom

Quiz o opadaniu gradientowym

Przejrzyj zwykły kierunek opadania gradientu, kroki szybkości uczenia się, próbkowane gradienty, pęd, adaptację Adama, aktualizacje numeryczne i limity punktów stacjonarnych.

Powiązane ścieżki prowadząceZejście gradientowe
Pytanie 1 z 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. Co kontroluje szybkość uczenia się?
    • Liczba warstw w modelu
    • Ile klas może przewidzieć model
    • Rozmiar każdego kroku wykonywanego podczas optymalizacji
    • Ilość wykorzystanych danych szkoleniowych
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Jaki problem może powodować zbyt duża szybkość uczenia się?
    • Trening staje się niezwykle powolny, ale stabilny
    • Model ignoruje gradient
    • Zbiór danych zostaje uszkodzony
    • Model przekracza minimum i może się różnić
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Jaka jest kluczowa cecha optymalizatora Adama w porównaniu ze zwykłym spadkiem gradientowym?
    • Dostosowuje efektywną szybkość uczenia się dla każdego parametru
    • Wykorzystuje jeden stały krok dla każdego parametru
    • Nie wymaga gradientów
    • Uczy tylko warstwę wyjściową
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • Trzy
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds