Ajuste personalizado de múltiples conceptos de difusión
Custom Diffusion es un método de ajuste ligero que enseña a un modelo de texto a imagen nuevos conceptos personales, como su perro o una silla específica, a partir de unas pocas fotos.
Descripción general
Its standout feature is composing several newly learned concepts together in one generated scene.
Buceo profundo
Lanzado por investigadores de Adobe y CMU en 2022, Custom Diffusion personaliza modelos como Stable Diffusion sin volver a capacitar a toda la red. En lugar de actualizar cada peso, descubrió que actualizar solo una pequeña porción, las matrices de proyección de valores y claves en las capas de atención cruzada, es suficiente para absorber un nuevo concepto de aproximadamente 4 a 20 imágenes. Esto mantiene la sintonización rápida (minutos) y el almacenamiento pequeño (megabytes en lugar de gigabytes). Fundamentalmente, puede aprender varios conceptos a la vez mediante entrenamiento conjunto o fusionando conceptos entrenados por separado mediante una optimización restringida. Eso le permite solicitar, digamos, que su gato específico esté sentado en su silla de diseño específica, algo que a los métodos de un solo concepto les cuesta combinar.
Información técnica
La atención cruzada es donde el mensaje del texto influye en la imagen; los tokens de texto forman consultas que atienden a las características visuales del modelo de difusión a través de matrices de claves y valores. Custom Diffusion congela la mayor parte de U-Net y sintoniza solo las proyecciones K y V, las partes más responsables de unir las palabras a la apariencia. También utiliza un conjunto de regularización de imágenes reales que comparten la categoría del concepto para evitar que el modelo se sobreajuste y olvide el significado más amplio de la palabra.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro del ajuste multiconcepto de difusión personalizada
La personalización de múltiples conceptos está convergiendo con ecosistemas adaptadores como LoRA, donde muchos módulos de conceptos pequeños se pueden mezclar en el momento de la inferencia. Los sistemas futuros apuntan a componer docenas de conceptos personalizados limpiamente sin sangrado de atributos (el color del gato se filtra en la silla) y realizar ajustes en segundos o incluso solo con codificador, sin optimización. Espere que esto respalde la generación de activos, avatares personales y personalización en el dispositivo consistentes con la marca.
Implementación en el mundo real
Enseñarle a modelar tu mascota específica a partir de un puñado de fotos y luego generarla en nuevas poses, disfraces y escenarios.
Aprender el producto de una marca (una zapatilla o una botella) y una mascota de la marca y luego componerlos en una sola imagen de marketing.
Capturar un objeto de arte personal más la imagen de un miembro de la familia y colocarlos juntos en escenas inventadas.
Combinar un mueble personalizado con un estilo de habitación personalizado para simular conceptos de diseño de interiores.
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Custom Diffusion Multi-Concept Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Política de Difusión para el Control de Robots
Preguntas frecuentes
What is Custom Diffusion Multi-Concept Tuning?
Custom Diffusion es un método de ajuste ligero que enseña a un modelo de texto a imagen nuevos conceptos personales, como su perro o una silla específica, a partir de unas pocas fotos. Su característica destacada es la de componer varios conceptos recién aprendidos juntos en una escena generada.
¿Qué parte del modelo de difusión ajusta principalmente la Difusión personalizada?
Actualiza solo las matrices K y V de atención cruzada, que vinculan las palabras con la apariencia, manteniendo la sintonización rápida y el archivo guardado pequeño.
¿En qué se destaca la difusión personalizada en comparación con los métodos de concepto único?
Su capacidad distintiva es la generación de múltiples conceptos, combinando varios temas personalizados.
¿Aproximadamente cuántas imágenes de ejemplo necesita Custom Diffusion para aprender un concepto?
Aprende de un pequeño puñado de imágenes, lo que hace que la personalización sea práctica para los usuarios cotidianos.
¿Por qué Custom Diffusion utiliza un conjunto de imágenes de regularización de la categoría más amplia del concepto?
Las imágenes de regularización mantienen intacto el significado general de la palabra de categoría para que el modelo no colapse solo en el nuevo concepto.
¿Cómo se pueden utilizar juntos dos conceptos de difusión personalizada formados por separado?
Los conceptos aprendidos de forma independiente se pueden fusionar mediante una optimización restringida de forma cerrada, lo que permite indicaciones conjuntas.