Gids-gekoppelde quiz · Middelmatig Niveau

Vooroordelen en stereotypen in de quiz over AI-beeldgeneratoren

Test waar de bias van de beeldgenerator vandaan komt, hoe onderzoekers dit meten met neutrale prompts en waarom oplossingen zoals het herschrijven van prompts te veel kunnen corrigeren.

Vraag 1 van 8

Waarom produceert een prompt die geen geslacht of etniciteit noemt toch een bevooroordeelde afbeelding?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Waarom produceert een prompt die geen geslacht of etniciteit noemt toch een bevooroordeelde afbeelding?
    • The model randomly assigns attributes with equal probability
    • The model falls back on the most typical picture it learned for the word, which reflects skewed data
    • Users secretly add hidden terms
    • Image generators cannot draw people accurately
  2. Welke soort data leren modellen zoals Stable Diffusion van?
    • Hand-drawn images commissioned for training
    • Government census photographs
    • Large collections of image-caption pairs scraped from the web
    • Only stock photos with verified demographics
  3. Wat is een veelgebruikte methode die onderzoekers gebruiken om bias in beeldgeneratoren te meten?
    • Asking the model to rate its own fairness
    • Counting how many words are in each prompt
    • Checking image file sizes
    • Generating many images for neutral prompts and comparing who appears
  4. Waarom gebruikte het Stable Bias-project clustering in plaats van direct ras te labelen?
    • Labeling someone's race from an image is itself unreliable and fraught
    • Clustering is required by law
    • Race labels made the images too large
    • The images contained no people
  5. Wat ontdekte een Bloomberg-analyse uit 2023 van Stable Diffusion-afbeeldingen?
    • Outputs were perfectly balanced across all jobs
    • Only landscapes showed bias
    • High-paying jobs skewed toward lighter-skinned men
    • The model refused to draw people at work
  6. What happened with Google's Gemini image generation in February 2024?
    • It was paused after producing historically inaccurate diverse depictions
    • It was praised for perfect historical accuracy
    • It was banned in all countries
    • It stopped generating landscapes
  7. What is the main weakness of simple behind-the-scenes prompt rewriting as a fix?
    • It is too expensive to run
    • It can be context-blind and alter prompts that specify a period or identity
    • It makes images black and white
    • It deletes the training data
  8. Which statement about the source of bias is accurate according to the guide?
    • Bias comes only from training data
    • Bias comes only from users' prompts
    • Bias is fully solved by larger models
    • Data, filtering, captioning, model design and post-training choices all shape bias