Test legat de ghid · Mediu Nivel
Test de coborâre în degrade
Review plain gradient-descent direction, learning-rate steps, sampled gradients, momentum, Adam adaptation, numerical updates, and stationary-point limits.
Întrebare 1 de 8
In plain gradient descent, which direction is used relative to the objective's gradient?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- In plain gradient descent, which direction is used relative to the objective's gradient?
- The negative-gradient direction
- The positive-gradient direction
- An arbitrary perpendicular direction by definition
- A direction chosen without evaluating any gradient
- Ce controlează rata de învățare?
- Numărul de straturi din model
- Câte clase poate prezice modelul
- Mărimea fiecărui pas făcut în timpul optimizării
- Cantitatea de date de antrenament utilizate
- How does a mini-batch gradient relate to the full selected training-data objective?
- It uses no examples
- It is computed on the batch and used as an estimate of the full-data gradient
- It must equal the full-data gradient on every step
- It only exists for images
- Ce problemă poate cauza o rată de învățare prea mare?
- Antrenamentul devine extrem de lent, dar stabil
- Modelul ignoră gradientul
- Setul de date devine corupt
- Modelul depășește minimul și poate diverge
- What information does momentum carry into later gradient-descent updates?
- Only the model's vocabulary size
- A permanent deletion of all earlier gradients
- A running weighted combination of earlier gradients
- An unrelated random reset of every weight
- Care este o caracteristică cheie a optimizatorului Adam în comparație cu coborârea în gradient simplu?
- Acesta adaptează rata efectivă de învățare pentru fiecare parametru
- Utilizează un singur pas fix pentru fiecare parametru
- Nu necesită degrade
- Antrenează doar stratul de ieșire
- For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
- Two-point-three
- One-point-nine-seven
- Trei
- One-point-seven
- What does a zero gradient fail to prove for a nonconvex training objective?
- That the gradient value is zero at the evaluated point
- That the current point is a global minimum
- That the objective has been evaluated locally
- That a stationary-point condition holds