CLIP y modelos visión-lenguaje
CLIP es un modelo de OpenAI que aprende a conectar imágenes y texto colocándolos en el mismo espacio matemático.
Descripción general
It is the quiet workhorse behind image search, content moderation, and many text-to-image generators.
Buceo profundo
Lanzado en 2021, CLIP (Preentrenamiento de imágenes y lenguaje contrastivo) se entrenó en aproximadamente 400 millones de pares de imágenes y títulos extraídos de la web. Utiliza dos codificadores: uno convierte una imagen en un vector, el otro convierte el texto en un vector y ambos aterrizan en un espacio de incrustación compartido. El modelo aprende a que una foto de un perro y las palabras "una foto de un perro" estén juntas, mientras que los pares que no coinciden están muy separados. Esto desbloquea la clasificación de tiro cero: para etiquetar una imagen, la compara con descripciones de texto de las categorías candidatas y elige la más cercana, sin entrenar un clasificador dedicado. CLIP se convirtió en una infraestructura fundamental, guiando a los generadores de imágenes, impulsando la búsqueda de imágenes semánticas, filtrando conjuntos de datos y sembrando los modelos de visión y lenguaje más amplios de la actualidad, como Flamingo, LLaVA y GPT-4V.
Información técnica
CLIP se entrena con un objetivo contrastivo. En un lote de pares imagen-texto, calcula la similitud (mediante similitud de coseno) entre cada imagen y cada título, luego ajusta los codificadores para maximizar las puntuaciones de los pares correctos y minimizar las puntuaciones de todas las combinaciones incorrectas. El codificador de imágenes suele ser un Vision Transformer que divide una imagen en parches; el codificador de texto es un transformador sobre tokens. Debido a que ambos producen vectores comparables, puedes hacer coincidir cualquier imagen con cualquier texto sobre la marcha.
Impacto Estratégico
Speed and scale
La IA visual puede automatizar tareas de inspección, detección y etiquetado a escala.
Construir opciones
Los equipos creativos pueden crear prototipos de conceptos más rápido y con menos revisiones manuales.
Equipo y flujo de trabajo
Las operaciones pueden utilizar señales de imagen y vídeo que antes eran difíciles de procesar.
El futuro de CLIP y los modelos visión-lenguaje
La alineación estilo CLIP es ahora un componente básico dentro de modelos multimodales más grandes que también pueden conversar, razonar y responder preguntas sobre imágenes. Espere conjuntos de capacitación más grandes y limpios, soporte para muchos idiomas y extensión a video y audio. Los investigadores están trabajando para reducir los sesgos sociales y demográficos que CLIP absorbió de los datos web y para mejorar la comprensión detallada (contar objetos, leer texto, relaciones espaciales) donde los modelos contrastantes siguen siendo débiles. A medida que maduren las versiones abiertas como OpenCLIP, este pegamento de imagen y texto seguirá extendiéndose a través de herramientas de búsqueda, robótica y accesibilidad.
Implementación en el mundo real
Buscar en una biblioteca de fotografías con frases naturales como "puesta de sol sobre las montañas" en lugar de etiquetas de nombre de archivo
Guiar a los generadores de texto a imagen para que los resultados coincidan con el mensaje solicitado
Marcar imágenes inseguras o fuera de política comparándolas con descripciones de texto de contenido prohibido
Organización automática o subtítulos de grandes conjuntos de datos de imágenes sin etiquetar para investigación o comercio electrónico
Riesgos y barandillas
Los derechos de imagen y el consentimiento pueden convertirse en riesgos legales si la procedencia no está clara.
El rendimiento del modelo puede variar según la iluminación, la demografía y los entornos.
Los falsos positivos pueden pasar desapercibidos a menos que se controlen los umbrales de confianza.
Hoja de ruta de implementación
Defina criterios de aceptación para costos de precisión, recuperación y error.
Pruebe con datos que coincidan con las condiciones reales de producción.
Agregue revisión humana para predicciones de baja confianza o de alto impacto.
Realice un seguimiento de la deriva del modelo y vuelva a validarlo después de cambios en la cámara o el conjunto de datos.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the CLIP and Vision-Language Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Modelos de visión-lenguaje-acción para robótica
Preguntas frecuentes
What is CLIP and Vision-Language Models?
CLIP es un modelo de OpenAI que aprende a conectar imágenes y texto colocándolos en el mismo espacio matemático. Es el silencioso caballo de batalla detrás de la búsqueda de imágenes, la moderación de contenido y muchos generadores de texto a imagen.
¿Cuál es la idea central detrás de CLIP?
CLIP asigna imágenes y texto a un espacio vectorial compartido para que su similitud pueda medirse directamente.
¿Qué enfoque de formación utiliza CLIP?
CLIP utiliza un objetivo contrastante: los pares correctos de imagen y título se acercan mientras que los pares que no coinciden se separan.
¿Qué significa "clasificación de tiro cero" con CLIP?
CLIP puede etiquetar imágenes para las que nunca fue entrenado específicamente para clasificar comparándolas con descripciones de texto de categorías candidatas.
¿Cómo mide CLIP si coinciden una imagen y un título?
CLIP codifica cada uno en un vector y calcula la similitud del coseno; una mayor similitud significa una coincidencia semántica más cercana.
¿Aproximadamente con cuántos datos se entrenó CLIP?
CLIP aprendió de aproximadamente 400 millones de pares de imágenes y leyendas recopilados de Internet, lo que le proporcionó un amplio conocimiento del lenguaje visual.