Gids-gekoppelde quiz · Middelmatig Niveau

Quiz over gradiëntafdaling

Bekijk de duidelijke richting van de gradiënt-daling, de stappen van het leertempo, de bemonsterde gradiënten, het momentum, de Adam-aanpassing, numerieke updates en de limieten voor stationaire punten.

Gerelateerde gidspadenGradiënt afdaling
Vraag 1 van 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. Wat controleert het leertempo?
    • Het aantal lagen in het model
    • Hoeveel klassen het model kan voorspellen
    • De grootte van elke stap die tijdens de optimalisatie wordt genomen
    • De hoeveelheid gebruikte trainingsgegevens
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Welk probleem kan een te hoog leertempo veroorzaken?
    • De training wordt extreem langzaam maar stabiel
    • Het model negeert de gradiënt
    • De gegevensset raakt beschadigd
    • Het model overschrijdt het minimum en kan afwijken
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Wat is een belangrijk kenmerk van de Adam-optimizer vergeleken met een gewone gradiëntafdaling?
    • Het past de effectieve leersnelheid voor elke parameter aan
    • Er wordt voor elke parameter één vaste stap gebruikt
    • Er zijn geen hellingen nodig
    • Het traint alleen de uitvoerlaag
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • Drie
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds