Prueba de poda de modelos

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. ¿Qué elimina la poda de modelos de una red entrenada?
   • Quitar pesos o estructuras que poco contribuyen al resultado.
   • Agregar más parámetros para mejorar la precisión
   • Entrenando un modelo para más épocas.
   • Aumentar la resolución de entrada
2. ¿Qué distingue la poda estructurada de la no estructurada?
   • La poda estructurada solo funciona en imágenes
   • La poda estructurada elimina unidades enteras como neuronas o cabezas; no estructurado elimina pesos individuales
   • La poda no estructurada requiere un reentrenamiento desde cero
   • No hay diferencia práctica entre ellos.
3. ¿Por qué la poda no estructurada a menudo no logra acelerar un modelo en hardware común?
   • Elimina demasiadas capas.
   • Siempre reduce la precisión a cero.
   • Las matrices de peso dispersas necesitan hardware o bibliotecas especiales para explotar los ceros.
   • Aumenta el recuento de parámetros.
4. ¿Cuál es la receta típica de poda iterativa?
   • Pode todo a la vez y luego implemente
   • Cuantizar primero, luego nunca volver a entrenar
   • Elimine capas aleatoriamente hasta que disminuya la precisión
   • Entrene, elimine los parámetros menos importantes, ajuste para recuperarse y repita
5. ¿Qué afirma la hipótesis del billete de lotería?
   • Las redes densas contienen subredes dispersas que pueden coincidir con el modelo completo cuando se entrenan desde la inicialización correcta.
   • La poda siempre mejora la precisión
   • La poda aleatoria siempre es mejor
   • Los modelos grandes no se pueden comprimir
6. ¿Qué criterio simple se usa comúnmente para decidir qué pesos podar?
   • El orden alfabético de los nombres de las capas.
   • La magnitud absoluta de los pesos.
   • El color de los mapas de activación.
   • El número de ejemplos de entrenamiento.
7. When is pruning most likely to reduce inference latency on ordinary dense hardware?
   • When individual zeros are added but the dense kernel still computes them
   • When the model is renamed without changing its graph
   • When whole channels or other structures are removed to produce a smaller dense model
   • When a sparse checkpoint is stored in a larger file
8. What should a team measure after pruning for a deployment target?
   • Only the number of zeros in a checkpoint
   • Only training accuracy before pruning
   • Whether the file extension changed
   • Task quality and latency or memory on the intended hardware