LegközelebbKövetkező útmutató
AI képgenerátorok művészeti osztályban
Vizuális AI
Társadalom ÚTMUTATÓ
Az AI képgenerátorok gyakran reprodukálják és felnagyítják a sztereotípiákat, például a „CEO” vagy „mérnök” esetében főleg férfiakat, a magas státuszú munkákhoz főleg világosabb bőrű embereket, valamint szűk szépségideálokat ábrázolnak, mivel nagy, torzított, feliratozott internetes képadatbázisokból tanulnak.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
A kutatók ezt úgy mérik, hogy sok képet generálnak semleges promptokból, és összehasonlítják, kik jelennek meg. Fontos, mert ezek a képek most már hirdetésekben, tankönyvekben és hírekben jelennek meg, és a torzítás, valamint a szakszerűtlen javítások félrevezethetik az embereket.
Text-to-image models such as Stable Diffusion, Midjourney and DALL-E learn the link between words and pictures from huge datasets of image-caption pairs, largely scraped from the web; Stable Diffusion, for example, was trained on subsets of LAION-5B. The web over-represents some countries, languages, body types and occupations, and captions reflect the assumptions of whoever wrote them. The model then learns the most typical picture for a word and tends to amplify it, because generation favors high-probability, 'average' outputs. A prompt that says nothing about gender or ethnicity still produces a default, and that default is often the stereotype. Researchers measure this in a few ways. A common method is to generate hundreds of images for neutral prompts (occupations, adjectives like 'attractive' or 'poor', nationalities) and label perceived gender, skin tone or age, sometimes compared against labor statistics. Hugging Face researchers' 'Stable Bias' project (2023) used clustering of model outputs rather than assigning labels directly, partly because labeling someone's race from a picture is itself fraught. A 2023 Bloomberg analysis of thousands of Stable Diffusion images found that high-paying jobs skewed toward lighter-skinned men and low-paying jobs toward darker skin tones. Fixes are harder than they look. In 2022 OpenAI said it applied a technique so DALL-E 2 produced more diverse people when prompts did not specify, widely reported to involve adding terms to prompts behind the scenes. In February 2024 Google paused Gemini's generation of images of people after it produced historically inaccurate images, such as racially diverse depictions of groups that were historically homogeneous. The lesson is that bias is not a single dial: a system must be representative where the prompt is open and accurate where the prompt is specific. A common misconception is that bias only comes from the training data; model design, filtering, captioning and post-training choices all shape the result too.
Egy tanár húsz alkalommal kér egy képgenerátort, hogy „tudós legyen a laborban”, és szinte kizárólag fehér férfiakat lát laborköpenyekben, majd átírja a promptot, hogy konkrét, változatos embereket kérjen.
Egy marketingcsapat, amikor „nővér” és „orvos” képeket generál, észreveszi, hogy az eszköz a nővéreket nőkké, az orvosokat férfiakká teszi, ezért bevezet egy felülvizsgálati lépést, mielőtt a képek kampányba kerülnének.
Egy újságíró összehasonlítja a „ház Nigériában” és a „ház az Egyesült Államokban” kimeneteket, és azt találja, hogy a modell az egyiket szegénységi képekkel, a másikat külvárosi otthonokkal ábrázolja.
Egy felhasználó egy konkrét csoport történelmi jelenetét kéri, és egy olyan képet kap, amely demográfiai adatokat illeszt be, amelyek történelmileg nem voltak jelen, így látható, hogy egy sokszínűségi javítás hogyan túlkorrekciót eredményezhet.
Várható több szabványosított torzítás‑benchmark, több információ a modellkártyákban, és kontextus‑érzékenyebb mérséklés, amely megkülönbözteti a nyitott promptokat a történelmi vagy személyes specifikációktól. Valódi vita van a megfelelő célról: a jelenlegi valós statisztikákhoz igazodás megerősítheti a meglévő egyenlőtlenséget, míg az egységes reprezentáció torzíthatja a valóságot. Ez az értékválasztás, nem csupán technikai kérdés, és a szervezeteket valószínűleg kérni fogják, hogy magyarázzák. A felhasználóknak továbbra is át kell nézniük a generált képeket közzététel előtt, különösen az oktatásban és a hírekben.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Az AI képgenerátorok gyakran reprodukálják és felnagyítják a sztereotípiákat, például a „CEO” vagy „mérnök” esetében főleg férfiakat, a magas státuszú munkákhoz főleg világosabb bőrű embereket, valamint szűk szépségideálokat ábrázolnak, mivel nagy, torzított, feliratozott internetes képadatbázisokból tanulnak. A kutatók ezt úgy mérik, hogy sok képet generálnak semleges promptokból, és összehasonlítják, kik jelennek meg. Fontos, mert ezek a képek most már hirdetésekben, tankönyvekben és hírekben jelennek meg, és a torzítás, valamint a szakszerűtlen javítások félrevezethetik az embereket.
Mivel nincs specifikáció, a modell egy magas valószínűségű alapértelmezettet generál, és ez az alapértelmezett tükrözi, s gyakran felnagyítja a képzési adatok sztereotípiáit.
Az olyan adathalmazok, mint a LAION-5B, milliárdnyi webes képszöveg párt tartalmaznak, amelyek a web egyensúlytalanságait hordozzák.
A kutatók több száz képet generálnak semleges prompt alapján, majd elemzik a megfigyelt jellemzőket, néha összehasonlítva a valós világ statisztikáival.
A megjelenés alapján a faj meghatározása megbízhatatlan és etikai szempontból problémás, ezért a klaszterek kimeneteinek összehasonlítása volt egy módja a modellek vizsgálatának címkék kényszerítése nélkül.
Az elemzés azt talált, hogy a magas fizetésű foglalkozások a világosabb bőrszínű férfiak felé hajlamosak, míg az alacsonyabb fizetésűek a sötétebb bőrszínűek felé.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
AI képgenerátorok művészeti osztályban
Vizuális AI