Stochastischer Gradientenabstieg mit Momentum-Quiz

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

1. Was akkumuliert der Impulsterm während des Trainings?
   • Die Gesamtzahl der Trainingsepochen
   • Ein laufender (exponentiell gewichteter) Durchschnitt vergangener Farbverläufe
   • Die Größe des Datensatzes
   • Der Genauigkeitsverlauf des Modells
2. Welches Problem hat das einfache SGD in einer langen, engen Schlucht, das durch den Schwung behoben werden kann?
   • Es läuft numerisch über
   • Es stoppt die Berechnung von Farbverläufen
   • Es erhöht automatisch die Lernrate
   • Es schlängelt sich im Zickzack über die steilen Wände und bewegt sich dabei langsam über den Boden
3. Ein üblicher Standardwert für den Impulskoeffizienten ist:
   • 0,9
   • 0,0
   • 0,5
   • 2,0
4. Welche physikalische Analogie wird am häufigsten zur Beschreibung des Impulses verwendet?
   • Ein Pendel, das für immer schwingt
   • Eine Feder, die zurückschnappt
   • Ein schwerer Ball, der bergab rollt
   • Wasser gefriert
5. Wie stark verstärkt der Impuls ungefähr den effektiven Schritt in eine konsistente Richtung, wenn Beta = 0,9?
   • Ungefähr 2 Mal
   • Etwa das 0,1-fache
   • Keine Verstärkung
   • Ungefähr 10 Mal
6. Welcher moderne Optimierer beinhaltet eine Momentum-Schätzung im ersten Moment?
   • Newtons Methode
   • Adam
   • K-bedeutet
   • Zufällige Suche
7. In the update v = beta times v plus gradient, what happens when beta is zero?
   • The old velocity is doubled
   • Every gradient becomes zero
   • The previous velocity is discarded and the current gradient determines the step
   • The parameters stop depending on the learning rate
8. Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
   • Their opposing contributions can partially cancel in accumulated velocity
   • All past gradients are stored as separate parameters
   • The loss becomes convex automatically
   • Momentum ignores the current gradient entirely