Cuestionario vinculado a una guía · duro Nivel

Prueba de minimización consciente de la nitidez

Comprueba la actualización de dos pasadas de SAM, su radio de vecindad, el gradiente de peso perturbado y el equilibrio entre planitud y cálculo.

Rutas de guía relacionadasMinimización consciente de la nitidez
Pregunta 1 de 8

¿Qué tipo de mínimo intenta encontrar SAM?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué tipo de mínimo intenta encontrar SAM?
    • Un mínimo fijo donde la pérdida se mantiene baja en una zona de pesos
    • El mínimo más agudo posible
    • El mínimo con más parámetros.
    • Cualquier mínimo alcanzable en un solo paso
  2. ¿Cuántos pases hacia adelante y hacia atrás requiere un paso SAM estándar?
    • medio pase
    • aproximadamente dos
    • exactamente uno
    • Diez o más
  3. ¿Qué controla el hiperparámetro de radio rho en SAM?
    • La velocidad de caída de la tasa de aprendizaje
    • El número de épocas de entrenamiento.
    • El tamaño del vecindario alrededor de los pesos que está protegido contra picos de pérdidas.
    • La probabilidad de abandono
  4. ¿Cuál es el primero de los dos pasos de SAM en cada iteración?
    • Reducir el modelo
    • Promediar los pesos de todos los pasos anteriores.
    • Restablecer el estado del optimizador
    • Da un paso ascendente de tamaño rho hacia el punto cercano en el peor de los casos.
  5. ¿Por qué SAM suele mejorar la robustez para etiquetar el ruido?
    • Porque los mínimos planos son menos propensos a memorizar etiquetas corruptas
    • Porque elimina automáticamente las etiquetas ruidosas.
    • Porque utiliza un vocabulario más amplio.
    • Porque triplica el tamaño del lote
  6. ¿Cuál de estas es una variante diseñada para reducir el costo de cómputo de SAM?
    • ReLU
    • ESAM (SAM Eficiente)
    • Norma de lote
    • adagrad
  7. In SAM’s second pass, which gradient is used to update the original model weights?
    • The gradient of a random label
    • The first pass gradient without evaluating the perturbed point
    • The gradient evaluated at the perturbed nearby weights
    • A gradient from a different model checkpoint
  8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
    • The model parameters are all set to zero
    • The loss becomes independent of the weights
    • The optimizer takes an infinite step
    • There is no weight perturbation, so the neighborhood reduces to the current point