Modelos generativos basados en puntuaciones
Los modelos generativos basados en puntuaciones crean datos aprendiendo el gradiente de la distribución de los datos, la dirección que hace que cualquier muestra ruidosa se parezca más a datos reales.
Descripción general
This score-function view unifies diffusion models with stochastic differential equations and underpins many modern image generators.
Buceo profundo
En lugar de modelar directamente la probabilidad, los modelos basados en puntuaciones aprenden la puntuación: el gradiente de la densidad logarítmica de probabilidad con respecto a la entrada. Saber de qué manera empujar una muestra para aumentar su probabilidad es suficiente para generar nuevos datos. El trabajo de Yang Song y Stefano Ermon de 2019 entrenó una red para estimar esta puntuación en muchos niveles de ruido mediante la comparación de puntuaciones de eliminación de ruido, luego generó muestras con dinámica de Langevin, avanzando repetidamente a lo largo de la partitura y agregando un poco de ruido. Su artículo de puntuación SDE de 2021 mostró que los modelos de difusión y basados en puntuación son dos caras del mismo proceso continuo descrito por una ecuación diferencial estocástica. Fundamentalmente, cada EDO tiene una EDO de "flujo de probabilidad" determinista correspondiente que comparte los mismos marginales, lo que permite probabilidades exactas y un muestreo rápido.
Información técnica
Estimar directamente la puntuación de datos limpios es difícil cuando los datos son escasos, por lo que el modelo se entrena con datos perturbados por ruido gaussiano en múltiples escalas. La coincidencia de puntuaciones de eliminación de ruido proporciona un objetivo manejable: la puntuación de la distribución con ruido es igual a la dirección del ruido dividida por la varianza del ruido, por lo que predecir el ruido y predecir la puntuación son esencialmente lo mismo. El muestreo resuelve la SDE de tiempo inverso (o la EDO de flujo de probabilidad equivalente) a partir de ruido gaussiano puro.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro de los modelos generativos basados en puntuaciones
El marco de puntuación SDE es el motor teórico detrás de gran parte del progreso de la IA generativa. Solucionadores numéricos más rápidos, mejores cronogramas de ruido y la EDO de flujo de probabilidad están permitiendo la generación casi en tiempo real y la evaluación exacta de la probabilidad. La misma idea de coincidencia de puntuaciones se está extendiendo más allá de las imágenes hacia el audio, el diseño de estructuras moleculares y proteicas, las nubes de puntos y la simulación científica, mientras que los modelos de coherencia y coincidencia de flujo se basan directamente en estas bases de tiempo continuo para reducir la generación a un puñado de pasos.
Implementación en el mundo real
Redes de puntuación condicionales de ruido (NCSN) que generan rostros fotorrealistas siguiendo gradientes de puntuación aprendidos mediante la dinámica de Langevin.
Reconstrucción de imágenes médicas, como la resonancia magnética acelerada, donde la puntuación aprendida actúa como paso previo para completar los datos de exploración submuestreados.
Generación de estructuras moleculares y proteicas en el descubrimiento de fármacos, modelado de configuraciones atómicas 3D con difusión basada en puntuaciones.
Síntesis de formas de onda de audio donde los modelos de partitura eliminan el ruido hacia un habla o música limpia, como en los codificadores de voz basados en difusión.
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Score-Based Generative Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Modelos basados en energía
Preguntas frecuentes
What is Score-Based Generative Models?
Los modelos generativos basados en puntuaciones crean datos aprendiendo el gradiente de la distribución de los datos, la dirección que hace que cualquier muestra ruidosa se parezca más a datos reales. Esta vista de función de puntuación unifica los modelos de difusión con ecuaciones diferenciales estocásticas y sustenta muchos generadores de imágenes modernos.
¿Cuál es exactamente la 'puntuación' que aprenden estos modelos?
La puntuación es el gradiente de la densidad de datos logarítmicos con respecto a la entrada: apunta en la dirección que aumenta la probabilidad de una muestra.
¿Por qué los modelos basados en puntuaciones se entrenan con datos corrompidos por el ruido en múltiples escalas?
En las regiones de baja densidad, la puntuación real está mal definida; Los datos perturbadores con varios niveles de ruido hacen que la comparación de puntuaciones sea manejable en todas partes.
¿Qué procedimiento de muestreo utilizaron los primeros modelos basados en puntuaciones para generar datos?
La dinámica de Langevin mueve repetidamente una muestra en la dirección de la partitura e inyecta un pequeño ruido, transformando gradualmente el ruido aleatorio en datos realistas.
¿Qué conexión importante estableció el documento Score-SDE de 2021?
Canción y col. modelos unificados de difusión y basados en puntuaciones bajo un marco de ecuaciones diferenciales estocásticas, con una EDO de flujo de probabilidad determinista coincidente.
¿Cómo se relaciona la predicción del ruido con la predicción de la puntuación en la comparación de puntuaciones de eliminación de ruido?
La coincidencia de puntuación de eliminación de ruido muestra que la puntuación es igual al ruido negativo dividido por la varianza del ruido, lo que hace que la predicción del ruido y la predicción de la puntuación sean efectivamente el mismo objetivo.