CLIP- en Vision-Taalmodellen
CLIP is een model van OpenAI dat leert afbeeldingen en tekst met elkaar te verbinden door beide in dezelfde wiskundige ruimte te plaatsen.
Overzicht
It is the quiet workhorse behind image search, content moderation, and many text-to-image generators.
Diepe duik
CLIP (Contrastive Language-Image Pre-training), uitgebracht in 2021, trainde op ongeveer 400 miljoen paren met afbeeldingsbijschriften die van internet werden geschraapt. Het maakt gebruik van twee encoders: de ene verandert een afbeelding in een vector, de andere verandert tekst in een vector, en beide komen terecht in een gedeelde inbeddingsruimte. Het model leert dat een foto van een hond en de woorden "een foto van een hond" dicht bij elkaar zitten, terwijl niet-overeenkomende paren ver uit elkaar zitten. Dit maakt zero-shot-classificatie mogelijk: om een afbeelding te labelen, vergelijkt u deze met tekstbeschrijvingen van kandidaat-categorieën en kiest u de dichtstbijzijnde, zonder een speciale classificator te trainen. CLIP werd een fundamentele infrastructuur, die beeldgeneratoren aanstuurde, semantische zoekacties naar afbeeldingen mogelijk maakte, datasets filterde en de grotere visietaalmodellen van vandaag de dag, zoals Flamingo, LLaVA en GPT-4V, zaaide.
Technisch inzicht
CLIP wordt getraind met een contrastief doel. In een batch afbeelding-tekstparen berekent het de gelijkenis (via cosinus-overeenkomst) tussen elke afbeelding en elk bijschrift, en past vervolgens de encoders aan om de scores voor de juiste paren te maximaliseren en de scores voor alle verkeerde combinaties te minimaliseren. De afbeeldingsencoder is doorgaans een Vision Transformer die een afbeelding in stukjes splitst; de tekstencoder is een Transformer over tokens. Omdat beide vergelijkbare vectoren opleveren, kunt u elke afbeelding direct aan elke tekst koppelen.
Strategische impact
Speed and scale
Visuele AI kan inspectie-, detectie- en taggingtaken op schaal automatiseren.
Build choices
Creatieve teams kunnen concepten sneller prototypen met minder handmatige revisies.
Team and workflow
Bij bewerkingen kan gebruik worden gemaakt van beeld- en videosignalen die voorheen moeilijk te verwerken waren.
De toekomst van CLIP- en vision-taalmodellen
Uitlijning in CLIP-stijl is nu een bouwsteen binnen grotere multimodale modellen die ook kunnen chatten, redeneren en vragen over afbeeldingen kunnen beantwoorden. Verwacht grotere en schonere trainingssets, ondersteuning voor vele talen en uitbreiding naar video en audio. Onderzoekers werken aan het verminderen van de sociale en demografische vooroordelen die CLIP uit webgegevens absorbeert, en aan het verbeteren van fijnkorrelig begrip (objecten tellen, tekst lezen, ruimtelijke relaties) waar contrastieve modellen zwak blijven. Naarmate open versies zoals OpenCLIP volwassener worden, zal deze beeld-tekstlijm zich blijven verspreiden over zoek-, robotica- en toegankelijkheidstools.
Implementatie in de echte wereld
Zoeken in een fotobibliotheek met natuurlijke uitdrukkingen zoals "zonsondergang boven bergen" in plaats van bestandsnaamtags
Begeleiden van tekst-naar-afbeelding-generatoren zodat de uitvoer overeenkomt met de gevraagde prompt
Het markeren van onveilige afbeeldingen of afbeeldingen die niet aan het beleid voldoen door ze te vergelijken met tekstbeschrijvingen van verboden inhoud
Automatische organisatie of ondertiteling van grote ongelabelde afbeeldingsdatasets voor onderzoek of e-commerce
Risico's en vangrails
Beeldrechten en toestemming kunnen juridische risico's worden als de herkomst onduidelijk is.
De prestaties van modellen kunnen variëren afhankelijk van de belichting, demografische gegevens en omgevingen.
Valse positieve resultaten kunnen onopgemerkt blijven, tenzij de vertrouwensdrempels worden gecontroleerd.
Implementatie routekaart
Definieer acceptatiecriteria voor precisie-, terugroep- en foutkosten.
Test met gegevens die overeenkomen met echte productieomstandigheden.
Voeg menselijke beoordeling toe voor voorspellingen met weinig vertrouwen of hoge impact.
Volg modelafwijkingen en valideer opnieuw na wijzigingen in de camera of dataset.
Blijf verkennen
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the CLIP and Vision-Language Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Visie-taal-actiemodellen voor robotica
Frequently asked questions
What is CLIP and Vision-Language Models?
CLIP is een model van OpenAI dat leert afbeeldingen en tekst met elkaar te verbinden door beide in dezelfde wiskundige ruimte te plaatsen. Het is het stille werkpaard achter het zoeken naar afbeeldingen, het modereren van inhoud en vele tekst-naar-afbeelding-generatoren.
Wat is het kernidee achter CLIP?
CLIP brengt zowel afbeeldingen als tekst in één gedeelde vectorruimte in kaart, zodat hun gelijkenis direct kan worden gemeten.
Welke trainingsaanpak gebruikt CLIP?
CLIP gebruikt een contrastief doel: correcte paren met bijschriften worden naar elkaar toe getrokken, terwijl niet-overeenkomende paren uit elkaar worden geduwd.
Wat betekent ‘zero-shot classificatie’ met CLIP?
CLIP kan afbeeldingen labelen waarvoor ze nooit specifiek zijn getraind om ze te classificeren, door ze te vergelijken met tekstbeschrijvingen van kandidaatcategorieën.
Hoe meet CLIP of een afbeelding en een bijschrift overeenkomen?
CLIP codeert elk in een vector en berekent de cosinusovereenkomst; hogere gelijkenis betekent een nauwere semantische match.
Op hoeveel data is CLIP ongeveer getraind?
CLIP heeft gebruik gemaakt van ongeveer 400 miljoen beeldbijschriften die op internet zijn verzameld, waardoor het een brede kennis van de visuele taal heeft.