Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ κλίσης κατάβασης

Εξετάστε την απλή κατεύθυνση κλίσης-κάθοδος, βήματα ρυθμού εκμάθησης, δειγματοληπτικές διαβαθμίσεις, ορμή, προσαρμογή Adam, αριθμητικές ενημερώσεις και όρια στατικών σημείων.

Σχετικές διαδρομές οδηγώνΚατάβαση κλίσης
Ερώτηση 1 του 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. Τι ελέγχει ο ρυθμός μάθησης;
    • Ο αριθμός των επιπέδων στο μοντέλο
    • Πόσες κατηγορίες μπορεί να προβλέψει το μοντέλο
    • Το μέγεθος κάθε βήματος που γίνεται κατά τη βελτιστοποίηση
    • Ο όγκος των δεδομένων εκπαίδευσης που χρησιμοποιείται
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Τι πρόβλημα μπορεί να προκαλέσει ένας πολύ μεγάλος ρυθμός μάθησης;
    • Η προπόνηση γίνεται εξαιρετικά αργή αλλά σταθερή
    • Το μοντέλο αγνοεί την κλίση
    • Το σύνολο δεδομένων καταστρέφεται
    • Το μοντέλο υπερβαίνει το ελάχιστο και μπορεί να αποκλίνει
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Ποιο είναι το βασικό χαρακτηριστικό του Adam optimizer σε σύγκριση με την απλή κλίση κατάβασης;
    • Προσαρμόζει τον αποτελεσματικό ρυθμό εκμάθησης για κάθε παράμετρο
    • Χρησιμοποιεί ένα μόνο σταθερό βήμα για κάθε παράμετρο
    • Δεν απαιτεί κλίσεις
    • Εκπαιδεύει μόνο το επίπεδο εξόδου
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • Τρεις
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds