Quiz collegato alla guida · Medio Livello

Quiz sullo strumento di reclutamento AI scartato di Amazon

Verifica come il modello di curriculum di Amazon ha appreso i pregiudizi dalle etichette storiche delle assunzioni, perché la rimozione delle parole legate al genere non è riuscita e come le variabili proxy trapelano.

Domanda 1 di 8

Su quali dati è stato addestrato il modello di reclutamento di Amazon?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Su quali dati è stato addestrato il modello di reclutamento di Amazon?
    • Annunci di lavoro pubblici anonimi dei concorrenti
    • Curriculum presentati a Amazon in un periodo di dieci anni
    • Curriculum sintetici generati per essere equilibrati di genere
    • Revisioni delle prestazioni solo degli attuali dirigenti senior
  2. Quale parola ha riportato la Reuters sulla modella penalizzata?
    • "Direttore"
    • "Eseguito"
    • "Catturato"
    • "Donne"
  3. Perché la modifica del modello per ignorare termini di genere specifici non è riuscita a risolvere il problema?
    • Non vi era alcuna garanzia che il modello non trovasse altri proxy per classificare i candidati in modo discriminatorio
    • Le modifiche hanno fatto sì che il modello rifiutasse ogni candidato
    • La legge vietava qualsiasi modifica al modello
    • Le modifiche hanno eliminato tutti i dati di allenamento
  4. Qual è la lezione centrale sull’etichetta formativa in questo caso?
    • Le etichette dovrebbero essere sempre generate in modo casuale
    • Il modello aveva troppo pochi parametri per essere appreso in modo equo
    • L'etichetta rifletteva le decisioni di assunzione passate, che contenevano pregiudizi
    • Le etichette non influiscono su ciò che apprende un modello
  5. Quali verbi sarebbero stati preferiti dal modello perché apparivano più spesso nei curriculum degli uomini?
    • "Led" e "costruito"
    • "Giustiziato" e "catturato"
    • "Progettato" e "codificato"
    • "Gestito" e "supportato"
  6. Qual è il problema delle etichette selettive nell’assunzione dei modelli?
    • I reclutatori scelgono quali etichette eliminare
    • Le modelle possono leggere solo curriculum più brevi di una pagina
    • Solo alcuni titoli professionali sono consentiti come etichette
    • I risultati vengono osservati solo per le persone assunte, quindi il potenziale dei candidati rifiutati non viene mai misurato
  7. Secondo la regola pratica dei quattro quinti, cosa segnala un possibile impatto negativo?
    • Il tasso di selezione di un gruppo è inferiore all'80% del tasso del gruppo più alto
    • Più di quattro quinti dei candidati vengono respinti
    • Un modello utilizza più di cinque funzionalità
    • Meno di quattro reclutatori su cinque approvano lo strumento
  8. Cosa richiede la Legge locale 144 della città di New York ai datori di lavoro che utilizzano strumenti decisionali automatizzati in materia di assunzione?
    • Divieto per tutte le IA nelle assunzioni
    • Pagare i candidati respinti dal software
    • Un audit indipendente sui pregiudizi e una sintesi dei risultati pubblicata
    • Registrazione di ogni richiedente presso la città