Quiz lié à un guide · Moyen Niveau
Quiz sur les taux d’apprentissage cyclique
Vérifie les cycles de taux d'apprentissage triangulaires, le test de portée, le comportement dynamique et la différence entre les cycles répétés et l'entraînement en un cycle.
Question 1 de 8
Quelle hypothèse fondamentale les taux d’apprentissage cycliques remettent-ils en question ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Quelle hypothèse fondamentale les taux d’apprentissage cycliques remettent-ils en question ?
- Que le taux d'apprentissage ne devrait diminuer que pendant la formation
- Cette taille de lot doit rester constante
- Ces modèles ont besoin de GPU
- Ces données doivent être mélangées
- What did Smith report for cyclical learning rates on tested classification tasks?
- They always lowered training loss to zero
- They improved accuracy versus fixed rates, often in fewer iterations
- They removed the need for validation data
- They guaranteed escape from every sharp minimum
- À quoi sert le « test de portée LR » ?
- Mesure l'utilisation de la mémoire GPU
- Compte le nombre de paramètres du modèle
- Balaie le taux d'apprentissage vers le haut tout en surveillant la perte pour choisir de bonnes limites
- Teste le modèle sur des données hors distribution
- Dans la politique à cycle unique, comment se comporte généralement la dynamique par rapport au taux d’apprentissage ?
- L’élan reste stable tout au long
- L'élan est mis à zéro tout le temps
- L’élan augmente exactement au rythme du taux
- La dynamique évolue à l’inverse : élevée lorsque le taux est bas et faible lorsque le taux est élevé.
- During a triangular cyclical learning-rate cycle, how does the rate move between its bounds?
- It rises from the base rate to the maximum, then falls back toward the base
- It only decreases from the first step
- It stays fixed at the maximum
- It jumps randomly at every minibatch
- Qui a introduit les taux d’apprentissage cycliques et le test de plage LR ?
- Geoffrey Hinton
- Leslie Smith
- Yann LeCun
- Andreï Karpathy
- What sets the duration of a cyclical learning-rate cycle?
- The number of model layers
- La taille du vocabulaire
- A chosen number of training iterations for the up-and-down pattern
- The number of optimizer parameters
- What distinguishes the one-cycle policy from repeating several triangular cycles?
- It keeps the learning rate constant throughout
- It removes the optimizer’s momentum
- It measures the learning rate only once
- It uses one long learning-rate cycle for the training run