Visuele AI-GIDS

Waarom AI-beeldgeneratoren de fout ingaan

AI-beeldgeneratoren hebben het bij het verkeerde eind, omdat handen klein en zeer flexibel zijn, vaak gedeeltelijk verborgen zijn en zelden in bijschriften worden beschreven.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van waarom AI-beeldgeneratoren de verkeerde kant op gaan
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Modellen leren hoe handen er aan de oppervlakte uitzien zonder op betrouwbare wijze hun structuur te leren, zoals vijf vingers per hand. Handfouten werden een bekend teken van synthetische afbeeldingen, en als we begrijpen waarom ze gebeuren, wordt zowel verklaard hoe nieuwere modellen zijn verbeterd als waarom het tellen van vingers niet langer een betrouwbare manier is om vervalsingen te herkennen.

Diepe duik

Diffusiemodellen leren van miljarden paren met bijschriften door te leren toegevoegde ruis om te keren. Ze worden heel goed in lokale visuele patronen: huidtextuur, belichting, het algemene uiterlijk van een hand. Wat ze nooit ontvangen is een expliciete regel dat een hand vijf vingers heeft die in een bepaalde volgorde met een handpalm zijn verbonden. Verschillende factoren maken handen hard. Handen nemen een klein deel van de meeste foto’s in beslag, waardoor ze weinig pixels krijgen. Latente diffusiemodellen zoals Stable Diffusion verkleinen beelden ook met een factor acht in elke dimensie voordat ze worden gegenereerd, waardoor een hand slechts een handvol latente cellen kan achterlaten. Handen nemen een enorm scala aan houdingen aan, grijpen objecten vast, overlappen elkaar en zijn vaak gedeeltelijk verborgen, waardoor de trainingsgegevens vol onvolledige weergaven zitten. Vingers lijken op elkaar, dus een model dat 'vinger, vinger, vinger' produceert, heeft geen krachtig signaal dat aangeeft wanneer het moet stoppen. Bijschriften vermelden bijna nooit handen, laat staan ​​hun houding, dus de prompt biedt weinig houvast. Het resultaat is een reeks bekende fouten: extra of ontbrekende vingers, samengesmolten cijfers, duimen aan de verkeerde kant en handen die versmelten met voorwerpen of andere mensen. Tanden, oren en sieraden gaan om soortgelijke redenen kapot. Nieuwere systemen hebben deze fouten verminderd. Grotere modellen, hogere trainingsresoluties, beter gefilterde en ondertitelde gegevens, op transformatoren gebaseerde architecturen en afstemming op menselijke voorkeursbeoordelingen hielpen allemaal. Midjourney's versie 5 in 2023 stond algemeen bekend om zijn betere handen, en latere modellen uit verschillende laboratoria verbeterden verder. Fouten zijn echter niet verdwenen, vooral niet in complexe poses, menigten en handen die dingen vasthouden. Een veel voorkomende misvatting is dat het model 'niet kan tellen'. Het is nauwkeuriger om te zeggen dat het uiterlijk statistisch leert, en dat de juiste structuur pas ontstaat als de gegevens en de modelcapaciteit voldoende zijn.

Implementatie in de echte wereld

An early Stable Diffusion portrait shows someone holding a coffee cup with six fingers wrapped around it, a typical failure when a model blends many overlapping grip poses.

A group scene from an older model merges two people's hands where they touch, because the model has no firm idea of where one body ends and another begins.

An artist feeds a ControlNet OpenPose or depth map made from a photo of her own hand to force a correct pose, then inpaints any remaining errors.

A fact-checker notes that a suspected fake has perfectly normal hands, a reminder that newer generators often draw hands correctly and other clues are needed.

De toekomst van waarom AI-beeldgeneratoren de verkeerde kant op gaan

Hand errors will likely keep shrinking as models grow and training data improves, but unusual poses, interlocked hands and hands manipulating objects remain harder than a simple open palm. Video generation adds a new version of the problem, because fingers must stay consistent from frame to frame. For anyone judging authenticity, hand checks are a weak signal. A malformed hand still suggests an image was generated, but a correct hand proves nothing. Provenance records and watermarks are more reliable than checking anatomy.

Het in de praktijk brengen

Waarom het ertoe doet

  • Snelheid en schaal. Visuele AI kan inspectie-, detectie- en taggingtaken op schaal automatiseren.
  • Bouwkeuzes. Creatieve teams kunnen concepten sneller prototypen met minder handmatige revisies.
  • Team en workflow. Bij bewerkingen kan gebruik worden gemaakt van beeld- en videosignalen die voorheen moeilijk te verwerken waren.

Pas op voor

  • Beeldrechten en toestemming kunnen juridische risico's worden als de herkomst onduidelijk is.
  • De prestaties van modellen kunnen variëren afhankelijk van de belichting, demografische gegevens en omgevingen.
  • Valse positieve resultaten kunnen onopgemerkt blijven, tenzij de vertrouwensdrempels worden gecontroleerd.

Volgende stappen

  1. Definieer acceptatiecriteria voor precisie-, terugroep- en foutkosten.
  2. Test met gegevens die overeenkomen met echte productieomstandigheden.
  3. Voeg menselijke beoordeling toe voor voorspellingen met weinig vertrouwen of hoge impact.
  4. Volg modelafwijkingen en valideer opnieuw na wijzigingen in de camera of dataset.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Why AI Image Generators Get Hands Wrong quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

What is Why AI Image Generators Get Hands Wrong?

AI-beeldgeneratoren hebben het bij het verkeerde eind, omdat handen klein en zeer flexibel zijn, vaak gedeeltelijk verborgen zijn en zelden in bijschriften worden beschreven. Modellen leren hoe handen er aan de oppervlakte uitzien zonder op betrouwbare wijze hun structuur te leren, zoals vijf vingers per hand. Handfouten werden een bekend teken van synthetische afbeeldingen, en als we begrijpen waarom ze gebeuren, wordt zowel verklaard hoe nieuwere modellen zijn verbeterd als waarom het tellen van vingers niet langer een betrouwbare manier is om vervalsingen te herkennen.

Wat leert een diffusiemodel volgens de gids vooral van paren met afbeeldingsbijschriften?

Modellen leren hoe dingen er statistisch uitzien. Niets in de training geeft hen een expliciete regel dat een hand vijf vingers heeft.

Hoe zorgt latente compressie in Stable Diffusion ervoor dat handen moeilijker te tekenen zijn?

Een kleine hand die in elke dimensie achtvoudig krimpt, heeft uiteindelijk heel weinig ruimte om vijf verschillende vingers weer te geven.

Waarom bieden bijschriften modellen weinig hulp met hun handen?

Zonder tekst die handhoudingen beschrijft, kan het model geen promptwoorden koppelen aan de handstructuur.

Welke Midjourney-versie stond volgens de gids algemeen bekend om zijn betere handen in 2023?

Midjourney's versie 5, uitgebracht in 2023, stond algemeen bekend om zijn verbeterde handen, onderdeel van een bredere trend van schaalvergroting en betere gegevens.

Wat doet een workflow voor detecteren en opnieuw schilderen in ADetailer-stijl?

Door het gewas te vergroten, krijgt de hand tijdens de regeneratie veel meer latente cellen, waardoor de structuur verbetert.