Cuestionario de regularización estocástica y abandono escolar

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. ¿Qué hace el abandono durante el entrenamiento?
   • Elimina pesos permanentemente
   • Establece aleatoriamente una fracción de las salidas de las neuronas en cero en cada paso hacia adelante.
   • Duplica la tasa de aprendizaje
   • Agrega más capas a la red.
2. ¿Por qué la deserción escolar mejora la generalización?
   • Aumenta el número de parámetros.
   • Elimina la necesidad de datos de entrenamiento.
   • Garantiza cero errores de entrenamiento.
   • Impide que las neuronas se coadapten y fuerza representaciones redundantes y sólidas.
3. ¿Qué sucede con el abandono en el momento del examen (inferencia)?
   • Se apaga y se utiliza la red completa.
   • Cae aún más neuronas.
   • Elimina la mitad de los pesos.
   • Aleatoriza las etiquetas.
4. ¿Qué significa aproximadamente una tasa de abandono de p = 0,5 en una capa durante el entrenamiento?
   • Se eliminan todas las neuronas.
   • Ninguna neurona se ve afectada
   • Aproximadamente la mitad de las neuronas se ponen a cero en cada pasada.
   • La capa se elimina
5. ¿Cómo se describe a menudo como aproximado el abandono escolar?
   • Una regresión lineal única
   • Un árbol de decisiones
   • Una transformada de Fourier
   • Un conjunto de muchas redes adelgazadas que comparten pesos.
6. ¿Para qué se utiliza el abandono de Montecarlo?
   • Acelerar la carga de datos
   • Estimación de la incertidumbre del modelo manteniendo activo el abandono en la inferencia
   • Comprimir la red a menos pesos.
   • Etiquetar los datos de entrenamiento automáticamente
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one