Quiz collegato alla guida · Medio Livello
Quiz sulla discesa del gradiente
Esaminare la direzione di discesa del gradiente semplice, i passaggi della velocità di apprendimento, i gradienti campionati, lo slancio, l'adattamento di Adam, gli aggiornamenti numerici e i limiti dei punti stazionari.
Domanda 1 di 8
In plain gradient descent, which direction is used relative to the objective's gradient?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- In plain gradient descent, which direction is used relative to the objective's gradient?
- The negative-gradient direction
- The positive-gradient direction
- An arbitrary perpendicular direction by definition
- A direction chosen without evaluating any gradient
- Cosa controlla il tasso di apprendimento?
- Il numero di livelli nel modello
- Quante classi può prevedere il modello
- La dimensione di ogni passaggio effettuato durante l'ottimizzazione
- La quantità di dati di addestramento utilizzati
- How does a mini-batch gradient relate to the full selected training-data objective?
- It uses no examples
- It is computed on the batch and used as an estimate of the full-data gradient
- It must equal the full-data gradient on every step
- It only exists for images
- Che problemi può causare un tasso di apprendimento troppo elevato?
- L'allenamento diventa estremamente lento ma stabile
- Il modello ignora il gradiente
- Il set di dati viene danneggiato
- Il modello supera il minimo e può divergere
- What information does momentum carry into later gradient-descent updates?
- Only the model's vocabulary size
- A permanent deletion of all earlier gradients
- A running weighted combination of earlier gradients
- An unrelated random reset of every weight
- Qual è una caratteristica chiave dell'ottimizzatore Adam rispetto alla discesa in pendenza piana?
- Adatta il tasso di apprendimento effettivo per ciascun parametro
- Utilizza un singolo passaggio fisso per ogni parametro
- Non richiede gradienti
- Addestra solo il livello di output
- For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
- Two-point-three
- One-point-nine-seven
- Tre
- One-point-seven
- What does a zero gradient fail to prove for a nonconvex training objective?
- That the gradient value is zero at the evaluated point
- That the current point is a global minimum
- That the objective has been evaluated locally
- That a stationary-point condition holds