Redes Residuales
Las redes residuales (ResNets) son redes neuronales profundas que agregan "conexiones de salto" permitiendo que las capas aprendan pequeños ajustes en lugar de transformaciones completas.
Descripción general
This simple trick made it possible to train networks hundreds of layers deep, sparking a leap in image recognition accuracy.
Buceo profundo
Antes de ResNets, apilar muchas capas, paradójicamente, hacía que las redes funcionaran peor, incluso con datos de entrenamiento, un problema llamado degradación. En 2015, los investigadores de Microsoft, Kaiming He y sus colegas, introdujeron el bloque residual: en lugar de pedirle a una pila de capas que produzca una salida H(x) directamente, le permitieron aprender un residual F(x) = H(x) - x, luego agregaron la entrada original x mediante un atajo. Si una capa no es necesaria, simplemente puede aprender a no hacer nada (F(x) = 0). ResNet-152 ganó la competencia ImageNet de 2015 con un error entre los 5 primeros de aproximadamente el 3,6 por ciento, superando las estimaciones a nivel humano, y su arquitectura se convirtió en una columna vertebral fundamental para la detección, segmentación e imágenes médicas.
Información técnica
La conexión de salto convierte el trabajo de cada bloque en y = F(x) + x. Durante la retropropagación, el gradiente fluye a través del atajo de identidad sin cambios, por lo que no puede desaparecer hasta casi cero incluso a través de cientos de capas. Esto mantiene las pilas profundas entrenables. Los atajos de identidad no añaden parámetros adicionales; solo cuando los tamaños de entrada y salida difieren, una pequeña proyección (convolución 1x1) ajusta las dimensiones antes de la suma.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro de las redes residuales
Las conexiones residuales ahora son casi universales: los transformadores, los modelos de difusión y los modelos de lenguaje grandes las utilizan para estabilizar el entrenamiento de pilas muy profundas. Continúan las investigaciones sobre variantes como ResNets de preactivación, rutas agrupadas de ResNeXt y la combinación de ideas residuales con entrenamiento sin normalización. Espere que el principio central de conexión por salto persista como un bloque de construcción predeterminado, incluso cuando las arquitecturas circundantes se alejen de convoluciones puras hacia diseños híbridos y de atención.
Implementación en el mundo real
Columnas troncales de clasificación de ImageNet (ResNet-50, ResNet-101) utilizadas como extractores de funciones previamente entrenados para el aprendizaje por transferencia
Detección de tumores y lesiones en imágenes de radiología y patología mediante codificadores basados en ResNet
Marcos de detección de objetos y segmentación de instancias como Faster R-CNN y Mask R-CNN que utilizan redes troncales de ResNet
Canalizaciones de percepción de conducción autónoma que clasifican peatones, vehículos y señales a partir de marcos de cámaras.
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Residual Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Característica de las redes piramidales
Preguntas frecuentes
What is Residual Networks?
Las redes residuales (ResNets) son redes neuronales profundas que agregan "conexiones de salto" permitiendo que las capas aprendan pequeños ajustes en lugar de transformaciones completas. Este sencillo truco hizo posible entrenar redes con cientos de capas de profundidad, lo que provocó un salto en la precisión del reconocimiento de imágenes.
¿Qué problema resolvieron específicamente las conexiones residuales?
Antes de ResNets, agregar más capas provocaba que la precisión se degradara incluso en los datos de entrenamiento. Saltar conexiones solucionó este problema al hacer que las capas fueran fáciles de optimizar.
¿Qué calcula realmente un bloque residual como salida?
Un bloque residual genera y = F(x) + x, agregando el residual aprendido a la entrada a través de una conexión de omisión.
¿Por qué saltar conexiones ayuda a los gradientes durante el entrenamiento?
El atajo de identidad proporciona una ruta directa para que los gradientes fluyan hacia atrás sin cambios, evitando el problema del gradiente que desaparece en pilas muy profundas.
¿Aproximadamente cuántas capas tenía el modelo ResNet ganador de 2015?
ResNet-152, con 152 capas, ganó el concurso ImageNet de 2015, demostrando que ahora se pueden entrenar con éxito redes muy profundas.
Si las capas de un bloque residual aprenden F(x) = 0, ¿qué hace el bloque?
Cuando F(x) = 0, la salida es solo x, por lo que el bloque se convierte en un mapeo de identidad. Esto hace que las capas adicionales sean inofensivas si no son necesarias.