Quiz collegato alla guida · Medio Livello
Quiz sullo strumento di reclutamento AI scartato di Amazon
Verifica come il modello di curriculum di Amazon ha appreso i pregiudizi dalle etichette storiche delle assunzioni, perché la rimozione delle parole legate al genere non è riuscita e come le variabili proxy trapelano.
Domanda 1 di 8
Su quali dati è stato addestrato il modello di reclutamento di Amazon?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Su quali dati è stato addestrato il modello di reclutamento di Amazon?
- Annunci di lavoro pubblici anonimi dei concorrenti
- Curriculum presentati a Amazon in un periodo di dieci anni
- Curriculum sintetici generati per essere equilibrati di genere
- Revisioni delle prestazioni solo degli attuali dirigenti senior
- Quale parola ha riportato la Reuters sulla modella penalizzata?
- "Direttore"
- "Eseguito"
- "Catturato"
- "Donne"
- Perché la modifica del modello per ignorare termini di genere specifici non è riuscita a risolvere il problema?
- Non vi era alcuna garanzia che il modello non trovasse altri proxy per classificare i candidati in modo discriminatorio
- Le modifiche hanno fatto sì che il modello rifiutasse ogni candidato
- La legge vietava qualsiasi modifica al modello
- Le modifiche hanno eliminato tutti i dati di allenamento
- Qual è la lezione centrale sull’etichetta formativa in questo caso?
- Le etichette dovrebbero essere sempre generate in modo casuale
- Il modello aveva troppo pochi parametri per essere appreso in modo equo
- L'etichetta rifletteva le decisioni di assunzione passate, che contenevano pregiudizi
- Le etichette non influiscono su ciò che apprende un modello
- Quali verbi sarebbero stati preferiti dal modello perché apparivano più spesso nei curriculum degli uomini?
- "Led" e "costruito"
- "Giustiziato" e "catturato"
- "Progettato" e "codificato"
- "Gestito" e "supportato"
- Qual è il problema delle etichette selettive nell’assunzione dei modelli?
- I reclutatori scelgono quali etichette eliminare
- Le modelle possono leggere solo curriculum più brevi di una pagina
- Solo alcuni titoli professionali sono consentiti come etichette
- I risultati vengono osservati solo per le persone assunte, quindi il potenziale dei candidati rifiutati non viene mai misurato
- Secondo la regola pratica dei quattro quinti, cosa segnala un possibile impatto negativo?
- Il tasso di selezione di un gruppo è inferiore all'80% del tasso del gruppo più alto
- Più di quattro quinti dei candidati vengono respinti
- Un modello utilizza più di cinque funzionalità
- Meno di quattro reclutatori su cinque approvano lo strumento
- Cosa richiede la Legge locale 144 della città di New York ai datori di lavoro che utilizzano strumenti decisionali automatizzati in materia di assunzione?
- Divieto per tutte le IA nelle assunzioni
- Pagare i candidati respinti dal software
- Un audit indipendente sui pregiudizi e una sintesi dei risultati pubblicata
- Registrazione di ogni richiedente presso la città