Cuestionario vinculado a una guía · duro Nivel

Prueba del fenómeno del doble descenso

Revise el doble descenso cerca de la interpolación y cómo el fenómeno puede variar según el tamaño del modelo, el tamaño del conjunto de datos y la duración del entrenamiento.

Rutas de guía relacionadasFenómeno del doble descenso
Pregunta 1 de 8

¿Dónde suele alcanzar su punto máximo el error de prueba en la curva de doble descenso?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Dónde suele alcanzar su punto máximo el error de prueba en la curva de doble descenso?
    • En el umbral de interpolación donde el modelo simplemente se ajusta a todos los datos de entrenamiento
    • Al comienzo del entrenamiento con pocos parámetros.
    • Sólo después de miles de millones de parámetros
    • El error de prueba nunca alcanza su punto máximo; cae monótonamente
  2. ¿Qué sucede con el error de prueba cuando un modelo se sobreparametriza en gran medida?
    • Aumenta indefinidamente debido al sobreajuste.
    • Puede volver a disminuir, a menudo por debajo del mínimo clásico.
    • Queda exactamente plano
    • Se vuelve aleatorio e impredecible.
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. ¿El doble descenso 'de época' se refiere al efecto que aparece en función de qué?
    • La cantidad de GPU utilizadas
    • Solo el programa de tasa de aprendizaje
    • El tamaño del conjunto de prueba.
    • Tiempo de entrenamiento (número de épocas)
  5. ¿Qué idea clásica desafía el doble descenso?
    • El equilibrio entre sesgo y varianza en forma de U
    • Propagación hacia atrás
    • Descenso de gradiente estocástico
    • La regla de la cadena
  6. ¿Quién ayudó a popularizar y formalizar la doble curva de descenso en 2019?
    • Newton y Leibniz
    • Belkin, Hsu, Ma y Mandal
    • Turing y la Iglesia
    • Solo competidores anónimos de Kaggle
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size