Aprendizaje profundo

Cada capa transforma su entrada y el entrenamiento ajusta los parámetros de la red para que sus salidas coincidan mejor con un objetivo definido. La profundidad describe la estructura del modelo; no demuestra una comprensión humana.

Conclusiones clave

• Múltiples capas y transformaciones no lineales permiten que una red aprenda representaciones complejas.
• Parámetros de actualización de entrenamiento; La inferencia utiliza el modelo para procesar nuevas entradas.
• Elija modelos que utilicen el desempeño de tareas pendientes y restricciones prácticas, no solo la profundidad.

Una red convierte una entrada en números que las capas posteriores pueden usar. Para un clasificador de imágenes, la entrada puede ser valores de píxeles y la salida puede ser una puntuación para cada categoría. Las capas ocultas se encuentran entre la entrada y la salida. Combinan pesos aprendidos con funciones de activación no lineales; simplemente apilar transformaciones lineales aún daría una transformación lineal. Entrenar y usar el modelo son operaciones diferentes. Durante el entrenamiento, un pase hacia adelante produce predicciones, una función de pérdida mide el error y la propagación hacia atrás calcula los gradientes. Un optimizador utiliza esos gradientes para actualizar los parámetros. Durante la inferencia, el modelo entrenado procesa una nueva entrada sin actualizar necesariamente sus pesos. Un experimento completo incluye preparación de datos, un modelo, una pérdida, un optimizador y evaluación de ejemplos excluidos del entrenamiento. El tutorial para principiantes de PyTorch demuestra este flujo de trabajo con clasificación de imágenes de ropa. Comience con una pequeña tarea reproducible, registre la división de datos y la configuración, e inspeccione los errores en lugar de mirar solo el número de precisión final. Una menor pérdida de entrenamiento no es prueba de que un modelo funcionará con datos nuevos. Una red puede adaptarse a patrones que sean específicos de sus ejemplos de capacitación. Mantenga los datos de evaluación separados, investigue duplicados en divisiones y pruebe las condiciones que encontrará la aplicación. La pregunta útil es si el modelo se generaliza a la tarea prevista, no si tiene la mayor cantidad de capas.

1. Construya una red ilustrativa completamente conectada con dos valores de entrada, una primera capa oculta de tres unidades, una segunda capa oculta de dos unidades y una unidad de salida. Dé un sesgo a cada unidad oculta y de salida.
2. La primera capa oculta tiene pesos de 2 × 3 y 3 sesgos: 9 parámetros. El segundo tiene pesos 3×2 y 2 sesgos: 8 parámetros.
3. La salida tiene pesos 2 × 1 y 1 sesgo: 3 parámetros. Por lo tanto, la red tiene 9 + 8 + 3 = 20 parámetros entrenables. Aplique activaciones no lineales entre las capas ocultas.

Este ejemplo construido muestra qué significan los parámetros y las capas. No demuestra un modelo entrenado ni precisión útil. Para probar la utilidad, elija una tarea, entrene la red y evalúela con respecto a una línea de base más simple con ejemplos no vistos.