Gids-gekoppelde quiz · Moeilijk Niveau

AI in rechtbanken en gerechtelijke risicobeoordelingsquiz

Test hoe pretrial-risicoscores werken, wat het COMPAS- en ProPublica-debat onthulde, en waarom kalibratie en gelijke foutenpercentages met elkaar in conflict kunnen komen.

Vraag 1 van 8

Wat levert de Public Safety Assessment (PSA) op?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat levert de Public Safety Assessment (PSA) op?
    • Een enkele schuldwaarschijnlijkheid voor gebruik tijdens het proces
    • Een aanbevolen gevangenisstraf in maanden
    • Afzonderlijke scores voor niet verschijnen en nieuwe criminele activiteiten, plus een vlag voor nieuwe gewelddadige criminele activiteiten
    • Een psychologisch profiel gebaseerd op een lang interview
  2. Wat rapporteerde ProPublica's analyse van COMPAS in Broward County uit 2016?
    • Zwarte verdachten die niet recidiveerden, hadden bijna twee keer zoveel kans als blanke verdachten om als hoger risico te worden bestempeld
    • COMPAS-scores waren voor alle beklaagden identiek
    • Blanke verdachten werden vaker bestempeld als een hoog risico en recidiveerden vervolgens niet
    • COMPAS voorspelde recidive perfect
  3. Hoe reageerde Northpointe op de bevindingen van ProPublica?
    • Het heeft COMPAS van de markt gehaald
    • Het gaf toe dat de tool opzettelijk bevooroordeeld was
    • Er werd gezegd dat ras de belangrijkste input was
    • Het voerde aan dat de scores even voorspellend waren: een bepaalde score kwam overeen met vergelijkbare recidivepercentages in alle races
  4. Waarom kan een risicoscore over het algemeen niet worden gekalibreerd en tegelijkertijd gelijke fout-positieve en fout-negatieve percentages hebben voor alle groepen?
    • Omdat de modellen te klein zijn
    • Omdat de groepen verschillende onderliggende basispercentages van de uitkomst hebben
    • Omdat rechters weigeren gekalibreerde instrumenten te gebruiken
    • Omdat ROC-curven niet kunnen worden berekend voor criminele gegevens
  5. Wat heeft het Hooggerechtshof van Wisconsin beslist in State v. Loomis (2016)?
    • COMPAS-scores zijn in alle veroordelingen verboden
    • Aan gedaagden moet de COMPAS-broncode worden getoond
    • Een rechter kan een COMPAS-score overwegen met waarschuwingen over de grenzen ervan, maar deze kan niet doorslaggevend zijn
    • Risicoscores moeten de rechterlijke discretie vervangen
  6. Wat is 'label bias' in pretrial risico-instrumenten?
    • De heraanhouding, zoals de uitkomst wordt voorspeld, weerspiegelt eerder politiecontact dan daadwerkelijke overtredingen
    • Gedaagden krijgen onjuiste naamlabels in de database
    • Scores worden afgedrukt in kleuren die de jury beïnvloeden
    • Labels worden willekeurig toegewezen tijdens de training
  7. Wat meet de oppervlakte onder de ROC-curve (AUC) voor een risico-instrument?
    • Of scores hetzelfde betekenen voor verschillende raciale groepen
    • Hoeveel verdachten behandelt een rechtbank per dag?
    • De juridische geldigheid van het hulpmiddel onder een eerlijk proces
    • Hoe goed rangschikken de scores mensen die later falen boven degenen die dat niet doen
  8. Welke uitspraak over de meeste instrumenten voor gerechtelijke risicobeoordeling is volgens de gids juist?
    • Het zijn geavanceerde deep learning-systemen die dossiers lezen
    • Het zijn veelal transparante statistische modellen die slechts een handvol factoren gebruiken
    • Ze nemen definitieve beslissingen over de borgtocht zonder rechter
    • Ze worden alleen gebruikt in federale rechtbanken