Mit dem Guide verknüpftes Quiz · Mittel Ebene

Gewichtsabnahme- und L2-Regularisierungsquiz

Testen Sie L2-Strafen, Schrumpfung in Richtung Null, SGD-Äquivalenz, AdamW-Entkopplung, adaptive Skalierung und Abklingstärke im Training.

Verwandte FührungspfadeGewichtsverlust und L2-Regularisierung
Frage 1 von 8

Was trägt die L2-Regularisierung zur Verlustfunktion bei?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was trägt die L2-Regularisierung zur Verlustfunktion bei?
    • Die Anzahl der Schichten im Netzwerk
    • Eine Strafe für die Lernrate
    • Die Anzahl der Trainingsbeispiele
    • Eine Strafe proportional zur Summe der quadrierten Gewichte
  2. Was ist das Hauptproblem, das durch Gewichtsabnahme verhindert werden kann?
    • Langsames Laden der Daten
    • Überanpassung, bei der das Modell Rauschen in den Trainingsdaten speichert
    • Hardwarefehler
    • Falsche Etiketten
  3. In welche Richtung verschiebt der Gewichtsabfall die Gewichte des Modells?
    • Der Unendlichkeit entgegen
    • In Richtung des größten Gewichts
    • Gegen Null
    • Hin zu zufälligen Werten
  4. Warum wurde AdamW eingeführt?
    • Um den Gewichtsabfall von der adaptiven Gradientenaktualisierung zu entkoppeln, damit sich der Abfall korrekt verhält
    • Um den Farbverlauf vollständig zu entfernen
    • Um das Training absichtlich langsamer zu machen
    • Um die Notwendigkeit einer Lernrate zu beseitigen
  5. Wie hängen L2-Regularisierung und Gewichtsabfall beim einfachen stochastischen Gradientenabstieg zusammen?
    • Es sind immer Gegensätze
    • Sie sind mathematisch gleichwertig
    • Durch Gewichtsabnahme wird der Farbverlauf deaktiviert
    • L2 funktioniert nur für SGD mit Impuls
  6. Was steuert der Lambda-Koeffizient bei der L2-Regularisierung?
    • Die Batchgröße
    • Die Anzahl der Epochen
    • Die Aktivierungsfunktion
    • Die Stärke der Strafe bei großen Gewichten
  7. Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
    • Adaptive per-parameter gradient scaling can distort the coupled penalty
    • Adam cannot train with any regularization
    • The two methods use different training labels
    • Decoupled decay removes the data loss
  8. In a simple decoupled update, what changes the fractional shrinkage of a weight?
    • Only the number of classes
    • Only the model’s input dimension
    • The learning rate and decay coefficient together
    • Only the validation-set size