Transformadores de difusión
Los transformadores de difusión (DiT) intercambian la U-Net convolucional en el corazón de los generadores de imágenes y video por una columna vertebral de transformador.
Descripción general
This architecture powers leading systems like Stable Diffusion 3 and OpenAI's Sora, and it scales remarkably well as you add compute.
Buceo profundo
Los modelos de difusión generan imágenes partiendo del ruido puro y eliminándolo iterativamente hasta convertirlo en una imagen coherente. Durante años, la red que realizaba esa eliminación de ruido era una U-Net, una arquitectura convolucional. El transformador de difusión, presentado por Peebles y Xie en 2022, reemplaza el U-Net con un transformador. Primero, la imagen se comprime en un espacio latente, se divide en pequeños parches y cada parche se convierte en un símbolo, muy parecido a las palabras en un modelo de lenguaje. Luego, el Transformer procesa estos tokens con atención propia en cada paso de eliminación de ruido. Un hallazgo clave fue que el rendimiento de DiT mejora de manera predecible a medida que se aumenta el tamaño del modelo y se reduce el tamaño del parche, siguiendo leyes de escala limpias. Esta escalabilidad es la razón por la cual los sistemas de texto a video y de texto a imagen de alta gama han migrado en gran medida a las redes troncales de Transformer.
Información técnica
Una innovación central es cómo los DiT inyectan condicionamientos como el paso de tiempo y el mensaje de texto. En lugar de una simple concatenación, utilizan la normalización de capa adaptativa (adaLN), donde la red predice parámetros de escala y desplazamiento para las capas de normalización a partir de la señal de acondicionamiento. La variante adaLN-zero los inicializa para que cada bloque comience como una función de identidad, estabilizando el entrenamiento. Los parches se aplanan en tokens, se procesan mediante bloques Transformer estándar con atención propia, luego se vuelven a ensamblar y decodificar nuevamente en píxeles.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro de los transformadores de difusión
Los transformadores de difusión se están convirtiendo en la columna vertebral predeterminada de los medios generativos. Su diseño basado en tokens los hace naturales para unificar imágenes, videos e incluso generación multimodal bajo una arquitectura escalable. La investigación avanza hacia videos más largos, mayor resolución y una atención más eficiente para controlar el costo cuadrático de muchos tokens. Espere una convergencia entre los modelos de lenguaje y visión, donde recetas e infraestructura de escalado de Transformer similares sirvan para ambos, acelerando el progreso en los modelos mundiales y el video interactivo.
Implementación en el mundo real
Sora de OpenAI utiliza una columna vertebral de Transformer sobre parches de espacio-tiempo para generar videos de alta fidelidad de un minuto de duración a partir de indicaciones de texto.
Stable Diffusion 3 adopta un transformador de difusión multimodal (MMDiT) para alinear mejor las imágenes generadas con descripciones de texto detalladas.
Los investigadores escalan un DiT a miles de millones de parámetros y observan que la calidad de la imagen mejora de manera predecible, guiando las decisiones de presupuesto informático.
Un estudio utiliza un modelo basado en DiT para ampliar clips cortos, tratando fotogramas de vídeo adicionales como tokens de parche adicionales para eliminar el ruido.
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Diffusion Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Redes de transformadores espaciales
Preguntas frecuentes
What is Diffusion Transformers?
Los transformadores de difusión (DiT) intercambian la U-Net convolucional en el corazón de los generadores de imágenes y video por una columna vertebral de transformador. Esta arquitectura impulsa sistemas líderes como Stable Diffusion 3 y Sora de OpenAI, y escala notablemente bien a medida que agrega computación.
¿Qué componente reemplaza un Transformador de Difusión en comparación con los modelos de difusión tradicionales?
Los DiT reemplazan la U-Net, la red convolucional que realizaba la eliminación de ruido, con una columna vertebral Transformer.
¿Cómo un DiT convierte una imagen en algo que un Transformer puede procesar?
La imagen latente se divide en pequeños parches, y cada parche se convierte en un símbolo, análogo a las palabras en un modelo de lenguaje.
¿Qué encontró el artículo original del DiT sobre el escalado?
La calidad de DiT mejora de una manera limpia y predecible a medida que aumenta la computación del modelo y utiliza parches más pequeños, siguiendo las leyes de escala.
¿Cómo suelen los DiT inyectar condicionamientos como el paso de tiempo y el mensaje de texto?
Los DiT utilizan la normalización de capa adaptativa para predecir la escala y cambiar los parámetros de las capas de normalización a partir de la señal de acondicionamiento.
¿Qué logra la inicialización 'adaLN-zero'?
adaLN-zero inicializa la modulación para que cada bloque actúe inicialmente como identidad, lo que estabiliza y mejora el entrenamiento.