Quiz collegato alla guida · Medio Livello
Quiz sui pregiudizi storici nel machine learning
Distinguere i pregiudizi storici dai problemi di campionamento ed etichettatura ed esaminare come i processi sociali passati modellano gli obiettivi e le decisioni del modello.
Domanda 1 di 8
Un modello apprende accuratamente i modelli nelle precedenti decisioni di assunzione che escludevano un gruppo. Quale fonte di bias è più direttamente coinvolta?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Un modello apprende accuratamente i modelli nelle precedenti decisioni di assunzione che escludevano un gruppo. Quale fonte di bias è più direttamente coinvolta?
- Pregiudizio storico
- Inizializzazione casuale
- Deriva della versione del software
- Errore di crittografia dei dati
- Perché la raccolta di più documenti dallo stesso processo storico potrebbe non riuscire a rimuovere i pregiudizi storici?
- Dati più grandi causano sempre più errori
- Il processo di origine può rimanere disuguale anche se rappresentato accuratamente
- Il modello non può eseguire l'addestramento su vecchi record
- La dimensione del campione determina lo status giuridico
- Un algoritmo sanitario utilizza la spesa passata per prevedere le necessità mediche. Quale rischio hanno identificato Obermeyer e colleghi?
- I costi non sono sempre correlati alle cure
- Spending is a perfect measure of illness
- Past spending can reflect unequal access, understating need for some patients
- The algorithm used no health data
- Which question helps identify a potentially biased training target?
- How many GPUs were used?
- What color is the interface?
- Who wrote the first line of code?
- Does the label measure the intended goal or a past institutional decision?
- How does historical bias differ from representation bias?
- Historical bias reflects inequity in the process; representation bias concerns who is missing or under-sampled
- They are identical terms
- Representation bias only occurs after deployment
- Historical bias requires missing rows
- Why may removing a protected attribute fail to resolve historical bias?
- The model cannot use other features
- Other variables can act as proxies for historically structured differences
- Removing it automatically improves fairness
- Labels become independent of history
- Which action addresses a flawed historical target most directly?
- Collect more of the same target only
- Randomize the user interface
- Reconsider the target and compare it with the legitimate outcome the system should support
- Increase model size
- Can a fairness metric alone determine whether a historical outcome is legitimate?
- Yes, any single metric settles it
- Only if the model is small
- Yes, if the dataset is public
- No; legitimacy requires context and judgment beyond a metric