VolgendeVolgende gids
AI-beeldgeneratoren in de kunstklas
Visuele AI
Gids voor de samenleving
AI-beeldgeneratoren reproduceren en versterken vaak stereotypen, bijvoorbeeld door voor 'CEO' of 'ingenieur' voornamelijk mannen te tonen, voor functies met een hoge status voornamelijk mensen met een lichtere huidskleur, en door smalle schoonheidsidealen, omdat ze leren uit grote, scheve verzamelingen van internetbeelden met bijschriften.
Luister naar deze gidsAI-verteld · ~3 min
Onderzoekers meten dit door veel beelden te genereren voor neutrale prompts en te vergelijken wie er verschijnt. Het is belangrijk omdat deze beelden nu reclames, leerboeken en nieuws vullen, en zowel de bias als de onhandige oplossingen mensen kunnen misleiden.
Text-to-image models such as Stable Diffusion, Midjourney and DALL-E learn the link between words and pictures from huge datasets of image-caption pairs, largely scraped from the web; Stable Diffusion, for example, was trained on subsets of LAION-5B. The web over-represents some countries, languages, body types and occupations, and captions reflect the assumptions of whoever wrote them. The model then learns the most typical picture for a word and tends to amplify it, because generation favors high-probability, 'average' outputs. A prompt that says nothing about gender or ethnicity still produces a default, and that default is often the stereotype. Researchers measure this in a few ways. A common method is to generate hundreds of images for neutral prompts (occupations, adjectives like 'attractive' or 'poor', nationalities) and label perceived gender, skin tone or age, sometimes compared against labor statistics. Hugging Face researchers' 'Stable Bias' project (2023) used clustering of model outputs rather than assigning labels directly, partly because labeling someone's race from a picture is itself fraught. A 2023 Bloomberg analysis of thousands of Stable Diffusion images found that high-paying jobs skewed toward lighter-skinned men and low-paying jobs toward darker skin tones. Fixes are harder than they look. In 2022 OpenAI said it applied a technique so DALL-E 2 produced more diverse people when prompts did not specify, widely reported to involve adding terms to prompts behind the scenes. In February 2024 Google paused Gemini's generation of images of people after it produced historically inaccurate images, such as racially diverse depictions of groups that were historically homogeneous. The lesson is that bias is not a single dial: a system must be representative where the prompt is open and accurate where the prompt is specific. A common misconception is that bias only comes from the training data; model design, filtering, captioning and post-training choices all shape the result too.
Een leraar vraagt een beeldgenerator twintig keer om 'een wetenschapper in een lab' en krijgt bijna uitsluitend witte mannen in labjassen, waarna de prompt wordt herschreven om specifieke, gevarieerde personen op te roepen.
Een marketingspan die 'een verpleegkundige' en 'een arts' genereert, merkt dat het tool verpleegkundigen steeds als vrouwen en artsen als mannen afbeeldt, en voegt een controlestap toe voordat de beelden in een campagne worden gebruikt.
Een journalist vergelijkt de outputs voor 'een huis in Nigeria' en 'een huis in de Verenigde Staten' en ontdekt dat het model standaard armoedebeelden genereert voor de ene en voorstadshuizen voor de andere.
Een gebruiker vraagt om een historische scène van een specifieke groep en ontvangt een afbeelding die demografieën inschrijft die historisch niet aanwezig waren, wat laat zien hoe een diversiteitsoplossing kan overcorrigeren.
Verwacht meer gestandaardiseerde bias-benchmarks, meer openbaarmaking in modelcards en meer contextbewuste mitigatie die onderscheid maakt tussen open prompts en historisch of persoonlijk specifieke prompts. Er is echte meningsverschil over het juiste doel: het matchen van huidige statistieken uit de echte wereld kan bestaande ongelijkheid versterken, terwijl uniforme vertegenwoordiging de werkelijkheid kan vertekenen. Die keuze is een waardenbeslissing, niet puur technisch, en organisaties zullen waarschijnlijk worden gevraagd dit uit te leggen. Gebruikers moeten gegenereerde beelden nog steeds controleren voordat ze ze publiceren, met name in het onderwijs en in het nieuws.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
AI-beeldgeneratoren reproduceren en versterken vaak stereotypen, bijvoorbeeld door voor 'CEO' of 'ingenieur' voornamelijk mannen te tonen, voor functies met een hoge status voornamelijk mensen met een lichtere huidskleur, en door smalle schoonheidsidealen, omdat ze leren uit grote, scheve verzamelingen van internetbeelden met bijschriften. Onderzoekers meten dit door veel beelden te genereren voor neutrale prompts en te vergelijken wie er verschijnt. Het is belangrijk omdat deze beelden nu reclames, leerboeken en nieuws vullen, en zowel de bias als de onhandige oplossingen mensen kunnen misleiden.
Zonder specificatie produceert het model een standaardinstelling met een hoge waarschijnlijkheid, en die standaardinstelling weerspiegelt en versterkt vaak stereotypen in de trainingsdata.
Datasets zoals LAION-5B bevatten miljarden web-gekrabde beeld-tekstparen, die de onevenwichtigheden van het web dragen.
Onderzoekers genereren honderden afbeeldingen per neutrale prompt en analyseren de waargenomen kenmerken, soms afgezet tegen statistieken uit de echte wereld.
Het toewijzen van ras op basis van uiterlijk is onbetrouwbaar en ethisch problematisch, dus het clusteren van resultaten was een manier om modellen te vergelijken zonder labels op te leggen.
De analyse wees uit dat hoogbetaalde beroepen scheef verdeeld waren naar mannen met een lichtere huidskleur en lagerbetaalde beroepen naar mensen met een donkerdere huidskleur.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
AI-beeldgeneratoren in de kunstklas
Visuele AI