Quiz collegato alla guida · Medio Livello

Quiz sulla discesa del gradiente

Esaminare la direzione di discesa del gradiente semplice, i passaggi della velocità di apprendimento, i gradienti campionati, lo slancio, l'adattamento di Adam, gli aggiornamenti numerici e i limiti dei punti stazionari.

Percorsi guida correlatiDiscesa gradiente
Domanda 1 di 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. Cosa controlla il tasso di apprendimento?
    • Il numero di livelli nel modello
    • Quante classi può prevedere il modello
    • La dimensione di ogni passaggio effettuato durante l'ottimizzazione
    • La quantità di dati di addestramento utilizzati
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Che problemi può causare un tasso di apprendimento troppo elevato?
    • L'allenamento diventa estremamente lento ma stabile
    • Il modello ignora il gradiente
    • Il set di dati viene danneggiato
    • Il modello supera il minimo e può divergere
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Qual è una caratteristica chiave dell'ottimizzatore Adam rispetto alla discesa in pendenza piana?
    • Adatta il tasso di apprendimento effettivo per ciascun parametro
    • Utilizza un singolo passaggio fisso per ogni parametro
    • Non richiede gradienti
    • Addestra solo il livello di output
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • Tre
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds