Quiz collegato alla guida · Medio Livello

Quiz sui pregiudizi storici nel machine learning

Distinguere i pregiudizi storici dai problemi di campionamento ed etichettatura ed esaminare come i processi sociali passati modellano gli obiettivi e le decisioni del modello.

Domanda 1 di 8

Un modello apprende accuratamente i modelli nelle precedenti decisioni di assunzione che escludevano un gruppo. Quale fonte di bias è più direttamente coinvolta?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. Un modello apprende accuratamente i modelli nelle precedenti decisioni di assunzione che escludevano un gruppo. Quale fonte di bias è più direttamente coinvolta?
    • Pregiudizio storico
    • Inizializzazione casuale
    • Deriva della versione del software
    • Errore di crittografia dei dati
  2. Perché la raccolta di più documenti dallo stesso processo storico potrebbe non riuscire a rimuovere i pregiudizi storici?
    • Dati più grandi causano sempre più errori
    • Il processo di origine può rimanere disuguale anche se rappresentato accuratamente
    • Il modello non può eseguire l'addestramento su vecchi record
    • La dimensione del campione determina lo status giuridico
  3. Un algoritmo sanitario utilizza la spesa passata per prevedere le necessità mediche. Quale rischio hanno identificato Obermeyer e colleghi?
    • I costi non sono sempre correlati alle cure
    • Spending is a perfect measure of illness
    • Past spending can reflect unequal access, understating need for some patients
    • The algorithm used no health data
  4. Which question helps identify a potentially biased training target?
    • How many GPUs were used?
    • What color is the interface?
    • Who wrote the first line of code?
    • Does the label measure the intended goal or a past institutional decision?
  5. How does historical bias differ from representation bias?
    • Historical bias reflects inequity in the process; representation bias concerns who is missing or under-sampled
    • They are identical terms
    • Representation bias only occurs after deployment
    • Historical bias requires missing rows
  6. Why may removing a protected attribute fail to resolve historical bias?
    • The model cannot use other features
    • Other variables can act as proxies for historically structured differences
    • Removing it automatically improves fairness
    • Labels become independent of history
  7. Which action addresses a flawed historical target most directly?
    • Collect more of the same target only
    • Randomize the user interface
    • Reconsider the target and compare it with the legitimate outcome the system should support
    • Increase model size
  8. Can a fairness metric alone determine whether a historical outcome is legitimate?
    • Yes, any single metric settles it
    • Only if the model is small
    • Yes, if the dataset is public
    • No; legitimacy requires context and judgment beyond a metric