Quiz collegato alla guida · Medio Livello
Quiz sul bias intersezionale nell'IA
Testa come l'appartenenza a gruppi combinati può rivelare errori nascosti dalle medie su un singolo asse, usando prove limitate dallo scope di Gender Shades.
Domanda 1 di 8
Cosa descrive il bias intersezionale in una verifica dell'IA?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Cosa descrive il bias intersezionale in una verifica dell'IA?
- Solo un punteggio complessivo basso
- Un modello che funziona lentamente
- Peggiori risultati per un sottogruppo combinato nascosto da medie generali
- Un indice di database mancante
- Quale gruppo ha avuto il maggior numero di errori nei sistemi testati nello studio Gender Shades?
- Uomini con pelle più chiara
- Donne con pelle più scura
- Tutti i gruppi allo stesso modo
- Persone che usano sedie a rotelle
- Quale limitazione dovrebbe accompagnare il risultato Gender Shades?
- Ha dimostrato che tutti i sistemi AI attuali sono di pregiudizio
- Ha studiato sistemi specifici e un compito di classificazione di genere binario in quel momento
- Ha valutato solo le decisioni di prestito
- Includeva ogni gruppo demografico
- Perché metriche separate per razza e genere possono non rilevare un problema?
- Usano sempre matematica non valida
- Eliminano la necessità di testare
- Una disparità all'intersezione razza-genere può annullarsi nei gruppi più ampi
- Rivelano ogni previsione individuale
- Cosa dovrebbe essere riportato insieme ai tassi di performance intersezionali?
- Conteggi e incertezza
- Solo il punteggio del sotto‑gruppo migliore
- Lo slogan di marketing del modello
- Nessuna informazione sulla dimensione del campione
- Perché i test intersezionali potrebbero richiedere misure di privacy?
- Può coinvolgere attributi sensibili e celle piccole
- Rivela sempre i pesi del modello
- Previene la valutazione
- Cambia le definizioni della classe protetta
- Cosa dovrebbe evitare un team di concludere dai dati di sottogruppo sparsi?
- Questa incertezza dovrebbe essere monitorata
- Che potrebbero essere necessarie più prove
- Che un gruppo non è influenzato solo perché la stima è imprecisa
- Che i controlli sulla privacy sono importanti
- Quando dovrebbe essere ripetuta la valutazione intersezionale?
- Solo prima del primo rilascio
- Dopo gli aggiornamenti e quando il deployment si espande a nuovi gruppi
- Mai se il modello ha superato un audit
- Solo quando l'accuratezza complessiva diminuisce