Cuestionario vinculado a una guía · Medio Nivel

Prueba de tasas de aprendizaje cíclico

Comprueba los ciclos de tasa de aprendizaje triangular, la prueba de rango, el comportamiento del impulso y la diferencia entre ciclos repetidos y entrenamiento de un ciclo.

Rutas de guía relacionadasTasas de aprendizaje cíclico
Pregunta 1 de 8

¿Qué supuesto central desafían las tasas de aprendizaje cíclico?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué supuesto central desafían las tasas de aprendizaje cíclico?
    • Que la tasa de aprendizaje sólo debería disminuir durante el entrenamiento
    • Ese tamaño de lote debe permanecer constante
    • Que los modelos necesitan GPU
    • Esos datos hay que barajarlos.
  2. What did Smith report for cyclical learning rates on tested classification tasks?
    • They always lowered training loss to zero
    • They improved accuracy versus fixed rates, often in fewer iterations
    • They removed the need for validation data
    • They guaranteed escape from every sharp minimum
  3. ¿Qué hace la 'prueba de alcance LR'?
    • Mide el uso de memoria de la GPU
    • Cuenta el número de parámetros del modelo.
    • Aumenta la tasa de aprendizaje mientras observa la pérdida para elegir buenos límites.
    • Prueba el modelo en datos fuera de distribución.
  4. En la política de un ciclo, ¿cómo se comporta típicamente el impulso en relación con la tasa de aprendizaje?
    • El impulso se mantiene fijo en todo momento
    • El impulso se establece en cero todo el tiempo.
    • El impulso aumenta exactamente al mismo ritmo que la velocidad.
    • El impulso se mueve en sentido inverso: alto cuando la tasa es baja y bajo cuando la tasa es alta
  5. During a triangular cyclical learning-rate cycle, how does the rate move between its bounds?
    • It rises from the base rate to the maximum, then falls back toward the base
    • It only decreases from the first step
    • It stays fixed at the maximum
    • It jumps randomly at every minibatch
  6. ¿Quién introdujo las tasas de aprendizaje cíclico y la prueba de rango LR?
    • Geoffrey Hinton
    • Leslie Smith
    • Yann LeCun
    • Andrej Karpathy
  7. What sets the duration of a cyclical learning-rate cycle?
    • El número de capas del modelo.
    • El tamaño del vocabulario
    • A chosen number of training iterations for the up-and-down pattern
    • The number of optimizer parameters
  8. What distinguishes the one-cycle policy from repeating several triangular cycles?
    • It keeps the learning rate constant throughout
    • It removes the optimizer’s momentum
    • It measures the learning rate only once
    • It uses one long learning-rate cycle for the training run