Gids-gekoppelde quiz · Middelmatig Niveau
Quiz over gradiëntafdaling
Bekijk de duidelijke richting van de gradiënt-daling, de stappen van het leertempo, de bemonsterde gradiënten, het momentum, de Adam-aanpassing, numerieke updates en de limieten voor stationaire punten.
Vraag 1 van 8
In plain gradient descent, which direction is used relative to the objective's gradient?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- In plain gradient descent, which direction is used relative to the objective's gradient?
- The negative-gradient direction
- The positive-gradient direction
- An arbitrary perpendicular direction by definition
- A direction chosen without evaluating any gradient
- Wat controleert het leertempo?
- Het aantal lagen in het model
- Hoeveel klassen het model kan voorspellen
- De grootte van elke stap die tijdens de optimalisatie wordt genomen
- De hoeveelheid gebruikte trainingsgegevens
- How does a mini-batch gradient relate to the full selected training-data objective?
- It uses no examples
- It is computed on the batch and used as an estimate of the full-data gradient
- It must equal the full-data gradient on every step
- It only exists for images
- Welk probleem kan een te hoog leertempo veroorzaken?
- De training wordt extreem langzaam maar stabiel
- Het model negeert de gradiënt
- De gegevensset raakt beschadigd
- Het model overschrijdt het minimum en kan afwijken
- What information does momentum carry into later gradient-descent updates?
- Only the model's vocabulary size
- A permanent deletion of all earlier gradients
- A running weighted combination of earlier gradients
- An unrelated random reset of every weight
- Wat is een belangrijk kenmerk van de Adam-optimizer vergeleken met een gewone gradiëntafdaling?
- Het past de effectieve leersnelheid voor elke parameter aan
- Er wordt voor elke parameter één vaste stap gebruikt
- Er zijn geen hellingen nodig
- Het traint alleen de uitvoerlaag
- For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
- Two-point-three
- One-point-nine-seven
- Drie
- One-point-seven
- What does a zero gradient fail to prove for a nonconvex training objective?
- That the gradient value is zero at the evaluated point
- That the current point is a global minimum
- That the objective has been evaluated locally
- That a stationary-point condition holds