Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο
Κουίζ για κυκλικά ποσοστά μάθησης
Ελέγχει τους τριγωνικούς κύκλους ρυθμού μάθησης, τη δοκιμή εύρους, τη συμπεριφορά ορμής και τη διαφορά μεταξύ επαναλαμβανόμενων κύκλων και εκπαίδευσης ενός κύκλου.
Ερώτηση 1 του 8
Ποια βασική υπόθεση αμφισβητούν τα κυκλικά ποσοστά μάθησης;
Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις
Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.
- Ποια βασική υπόθεση αμφισβητούν τα κυκλικά ποσοστά μάθησης;
- Ότι το ποσοστό μάθησης θα πρέπει να μειώνεται μόνο κατά τη διάρκεια της εκπαίδευσης
- Αυτό το μέγεθος παρτίδας πρέπει να παραμένει σταθερό
- Ότι τα μοντέλα χρειάζονται GPU
- Αυτά τα δεδομένα πρέπει να ανακατευτούν
- What did Smith report for cyclical learning rates on tested classification tasks?
- They always lowered training loss to zero
- They improved accuracy versus fixed rates, often in fewer iterations
- They removed the need for validation data
- They guaranteed escape from every sharp minimum
- Τι κάνει η «δοκιμή εύρους LR»;
- Μετρά τη χρήση μνήμης GPU
- Μετρά τον αριθμό των παραμέτρων του μοντέλου
- Σαρώνει τον ρυθμό εκμάθησης προς τα πάνω ενώ παρακολουθεί την απώλεια για να επιλέξει καλά όρια
- Δοκιμάζει το μοντέλο σε δεδομένα εκτός διανομής
- Στην πολιτική ενός κύκλου, πώς συμπεριφέρεται συνήθως η ορμή σε σχέση με το ποσοστό μάθησης;
- Η ορμή παραμένει σταθερή καθ' όλη τη διάρκεια
- Η ορμή έχει ρυθμιστεί στο μηδέν όλη την ώρα
- Η ορμή αυξάνεται ακριβώς ανάλογα με τον ρυθμό
- Η ορμή κινείται αντίστροφα — υψηλή όταν ο ρυθμός είναι χαμηλός και χαμηλή όταν ο ρυθμός είναι υψηλός
- During a triangular cyclical learning-rate cycle, how does the rate move between its bounds?
- It rises from the base rate to the maximum, then falls back toward the base
- It only decreases from the first step
- It stays fixed at the maximum
- It jumps randomly at every minibatch
- Ποιος εισήγαγε τους κυκλικούς ρυθμούς μάθησης και το τεστ εύρους LR;
- Τζέφρι Χίντον
- Λέσλι Σμιθ
- Γιαν ΛεΚούν
- Andrej Karpathy
- What sets the duration of a cyclical learning-rate cycle?
- The number of model layers
- Το μέγεθος του λεξιλογίου
- A chosen number of training iterations for the up-and-down pattern
- The number of optimizer parameters
- What distinguishes the one-cycle policy from repeating several triangular cycles?
- It keeps the learning rate constant throughout
- It removes the optimizer’s momentum
- It measures the learning rate only once
- It uses one long learning-rate cycle for the training run