Quiz collegato alla guida · Medio Livello

Quiz su pregiudizi e stereotipi nei generatori di immagini AI

Verifica da dove proviene il bias del generatore di immagini, come i ricercatori lo misurano con prompt neutri e perché correzioni come la riscrittura dei prompt possono correggere eccessivamente.

Domanda 1 di 8

Perché un messaggio che non menziona il genere o l'etnia produce comunque un'immagine distorta?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Perché un messaggio che non menziona il genere o l'etnia produce comunque un'immagine distorta?
    • Il modello assegna casualmente attributi con uguale probabilità
    • Il modello ricade sull’immagine più tipica appresa per la parola, che riflette dati distorti
    • Gli utenti aggiungono segretamente termini nascosti
    • I generatori di immagini non possono disegnare le persone in modo accurato
  2. Da che tipo di dati imparano i modelli come Stable Diffusion?
    • Immagini disegnate a mano commissionate per la formazione
    • Fotografie del censimento governativo
    • Grandi raccolte di coppie di immagini-didascalie recuperate dal web
    • Solo foto stock con dati demografici verificati
  3. Qual è un metodo comune utilizzato dai ricercatori per misurare i bias nei generatori di immagini?
    • Chiedere al modello di valutare la propria equità
    • Contare quante parole ci sono in ogni prompt
    • Controllo delle dimensioni dei file immagine
    • Generazione di molte immagini per suggerimenti neutri e confronto di chi appare
  4. Perché il progetto Stable Bias ha utilizzato il clustering invece di etichettare direttamente la razza?
    • Etichettare la razza di qualcuno da un'immagine è di per sé inaffidabile e complicato
    • Il clustering è richiesto dalla legge
    • Le etichette delle razze rendevano le immagini troppo grandi
    • Le immagini non contenevano persone
  5. Cosa ha scoperto un’analisi Bloomberg del 2023 delle immagini Stable Diffusion?
    • I risultati sono stati perfettamente bilanciati tra tutti i lavori
    • Solo i paesaggi hanno mostrato pregiudizi
    • I lavori ben retribuiti si sono orientati verso gli uomini dalla pelle più chiara
    • Il modello ha rifiutato di attirare le persone al lavoro
  6. Cosa è successo con la generazione di immagini Gemini di Google nel febbraio 2024?
    • È stato messo in pausa dopo aver prodotto diverse rappresentazioni storicamente imprecise
    • È stato elogiato per la perfetta accuratezza storica
    • È stato vietato in tutti i paesi
    • Ha smesso di generare paesaggi
  7. Qual è il principale punto debole della semplice riscrittura del prompt dietro le quinte come soluzione?
    • È troppo costoso da gestire
    • Può essere cieco rispetto al contesto e alterare i prompt che specificano un punto o un'identità
    • Rende le immagini in bianco e nero
    • Cancella i dati di allenamento
  8. Quale affermazione sulla fonte del bias è accurata secondo la guida?
    • La distorsione deriva solo dai dati di addestramento
    • I pregiudizi provengono solo dalle richieste degli utenti
    • Il bias è completamente risolto dai modelli più grandi
    • Dati, filtri, didascalie, progettazione del modello e scelte post-formazione sono tutti fattori che danno forma a pregiudizi