VQGAN y síntesis de imágenes de libro de códigos
VQGAN comprime imágenes en una cuadrícula de tokens discretos extraídos de un libro de códigos aprendido, lo que permite que un transformador genere imágenes de la misma manera que los modelos de lenguaje generan texto.
Buceo profundo
VQGAN, presentado en el artículo de 2021 'Taming Transformers for High-Resolution Image Synthesis', combina un codificador automático cuantificado por vectores (VQVAE) con entrenamiento perceptivo y de confrontación. Un codificador asigna una imagen a una pequeña cuadrícula de vectores de características; cada vector se ajusta a la entrada más cercana en un libro de códigos aprendido de, digamos, 1024 códigos discretos, convirtiendo la imagen en una secuencia de tokens enteros. Un decodificador reconstruye la imagen a partir de esos tokens, entrenado con un discriminador GAN y pérdida de percepción para que las reconstrucciones se vean nítidas en lugar de borrosas. Debido a que las imágenes ahora son secuencias de tokens discretas, un transformador autorregresivo puede modelarlas como un lenguaje, prediciendo los tokens uno por uno. VQGAN impulsó las primeras herramientas artísticas de conversión de texto a imagen cuando se combina con la guía CLIP.
Información técnica
La operación principal es la cuantificación de vectores: las salidas continuas del codificador se reemplazan por sus vectores de libro de códigos más cercanos, con un estimador de gradiente "directo" para que el codificador aún pueda aprender a pesar de la búsqueda no diferenciable. Agregar un discriminador GAN basado en parches encima del codificador automático es lo que permite a VQGAN usar una cuadrícula de tokens mucho más pequeña (por ejemplo, 16x16) que VQVAE y, al mismo tiempo, mantener las texturas nítidas, lo que hace que el modelado de transformadores sea manejable.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro de VQGAN y la síntesis de imágenes de libros de códigos
La receta de tokens discretos de VQGAN se convirtió en la base de los modelos de imagen y video basados en tokens, desde MaskGIT hasta sistemas multimodales que mezclan tokens de imagen y texto en un transformador. La investigación ahora avanza hacia libros de códigos más grandes, de escalar finito o sin búsquedas que eviten el colapso de los libros de códigos y hacia modelos unificados donde el mismo vocabulario abarque imágenes, audio y lenguaje, permitiendo el uso de cualquier generación.
Implementación en el mundo real
Codificar una foto en una cuadrícula de 16x16 de tokens de libro de códigos para que un transformador pueda modelarla y regenerarla
Combinando VQGAN con la guía CLIP para crear el arte surrealista de IA 'VQGAN+CLIP' que se volvió viral en 2021
Comprimir imágenes en códigos discretos compactos para un almacenamiento eficiente o entrenamiento generativo posterior
Sirviendo como tokenizador de imágenes dentro de generadores basados en tokens más grandes como MaskGIT y transformadores multimodales.
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the VQGAN and Codebook Image Synthesis quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Síntesis de imágenes semánticas SPADE
Preguntas frecuentes
What is VQGAN and Codebook Image Synthesis?
VQGAN comprime imágenes en una cuadrícula de tokens discretos extraídos de un libro de códigos aprendido, lo que permite que un transformador genere imágenes de la misma manera que los modelos de lenguaje generan texto.
¿Qué utiliza VQGAN para representar una imagen como tokens discretos?
VQGAN cuantifica las características del codificador a las entradas más cercanas en un libro de códigos aprendido, convirtiendo la imagen en una secuencia de índices de código discretos.
¿Por qué VQGAN agrega un discriminador GAN además de un VQVAE?
Las pérdidas de confrontación y percepción permiten a VQGAN reconstruir imágenes nítidas a partir de una cuadrícula de tokens compacta, que por sí sola VQVAE tiende a desdibujar.
Una vez que una imagen es una secuencia de tokens, ¿qué modelo genera nuevas imágenes?
Debido a que las imágenes se convierten en secuencias de tokens discretas, un transformador puede modelarlas de forma autorregresiva, tal como genera texto.
¿Qué técnica permite que los gradientes fluyan a través del paso de cuantificación no diferenciable?
La cuantificación vectorial no es diferenciable, por lo que VQGAN utiliza un estimador de gradiente directo para entrenar el codificador.
¿Qué famosa tendencia artística de IA ayudó a crear VQGAN en 2021?
La combinación de VQGAN con la guía CLIP produjo el arte ampliamente compartido 'VQGAN+CLIP' que popularizó la generación de imágenes basadas en texto.