Quiz collegato alla guida · Medio Livello

Quiz sul bias intersezionale nell'IA

Testa come l'appartenenza a gruppi combinati può rivelare errori nascosti dalle medie su un singolo asse, usando prove limitate dallo scope di Gender Shades.

Percorsi guida correlatiBias intersezionale nell'IA
Domanda 1 di 8

Cosa descrive il bias intersezionale in una verifica dell'IA?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Cosa descrive il bias intersezionale in una verifica dell'IA?
    • Solo un punteggio complessivo basso
    • Un modello che funziona lentamente
    • Peggiori risultati per un sottogruppo combinato nascosto da medie generali
    • Un indice di database mancante
  2. Quale gruppo ha avuto il maggior numero di errori nei sistemi testati nello studio Gender Shades?
    • Uomini con pelle più chiara
    • Donne con pelle più scura
    • Tutti i gruppi allo stesso modo
    • Persone che usano sedie a rotelle
  3. Quale limitazione dovrebbe accompagnare il risultato Gender Shades?
    • Ha dimostrato che tutti i sistemi AI attuali sono di pregiudizio
    • Ha studiato sistemi specifici e un compito di classificazione di genere binario in quel momento
    • Ha valutato solo le decisioni di prestito
    • Includeva ogni gruppo demografico
  4. Perché metriche separate per razza e genere possono non rilevare un problema?
    • Usano sempre matematica non valida
    • Eliminano la necessità di testare
    • Una disparità all'intersezione razza-genere può annullarsi nei gruppi più ampi
    • Rivelano ogni previsione individuale
  5. Cosa dovrebbe essere riportato insieme ai tassi di performance intersezionali?
    • Conteggi e incertezza
    • Solo il punteggio del sotto‑gruppo migliore
    • Lo slogan di marketing del modello
    • Nessuna informazione sulla dimensione del campione
  6. Perché i test intersezionali potrebbero richiedere misure di privacy?
    • Può coinvolgere attributi sensibili e celle piccole
    • Rivela sempre i pesi del modello
    • Previene la valutazione
    • Cambia le definizioni della classe protetta
  7. Cosa dovrebbe evitare un team di concludere dai dati di sottogruppo sparsi?
    • Questa incertezza dovrebbe essere monitorata
    • Che potrebbero essere necessarie più prove
    • Che un gruppo non è influenzato solo perché la stima è imprecisa
    • Che i controlli sulla privacy sono importanti
  8. Quando dovrebbe essere ripetuta la valutazione intersezionale?
    • Solo prima del primo rilascio
    • Dopo gli aggiornamenti e quando il deployment si espande a nuovi gruppi
    • Mai se il modello ha superato un audit
    • Solo quando l'accuratezza complessiva diminuisce