Kvíz spojený s průvodcem · Těžko úroveň
Kvíz COMPAS a zaujatost v algoritmech recidivy
Testuje zjištění ProPublica o chybovosti COMPAS, obraně kalibrace Northpointe a proč jsou definice spravedlivosti v rozporu, když se základní sazby liší.
Otázka 1 z 8
Co zjistila ProPublica o obžalovaných černých ve srovnání s bílými obžalovanými mezi obžalovanými, kteří se NEopakovali?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co zjistila ProPublica o obžalovaných černých ve srovnání s bílými obžalovanými mezi obžalovanými, kteří se NEopakovali?
- Bylo méně pravděpodobné, že vůbec budou skórovat
- Měli stejné označení rizika
- Bylo u nich téměř dvakrát vyšší pravděpodobnost, že budou označeny jako vyšší riziko
- S větší pravděpodobností byly označeny jako méně rizikové
- Co bylo jádrem obrany společnosti COMPAS ze strany Northpointe?
- Na každé úrovni skóre se černí a bílí obžalovaní znovu dopustili podobných trestných činů (kalibrace)
- Nástroj používal rasu ke korekci historické zaujatosti
- ProPublica analyzovala špatný kraj
- Nástroj nebyl nikdy použit u žádného soudu
- Za jakých podmínek výsledek nemožnosti říká, že kalibrace a stejná chybovost nemohou všechny platit?
- Když model používá více než 100 funkcí
- Když má datový soubor méně než 10 000 lidí
- Když je rasa zahrnuta jako vstup
- Když skupiny mají různé základní sazby a prediktor není dokonalý
- Co rozhodl Nejvyšší soud ve Wisconsinu ve věci State v. Loomis?
- COMPAS je protiústavní a soudně zakázán
- Rozhodčí mohou zvážit COMPAS, ale to nemůže být rozhodujícím faktorem a jsou vyžadována písemná upozornění
- O délce vět musí rozhodnout skóre COMPAS
- Obžalovaným musí být ukázán úplný zdrojový kód
- Je rasa vstupem pro COMPAS?
- Ano, je to nejvíce vážený faktor
- Ano, ale pouze pro obžalované na Floridě
- Ne; využívá kriminální minulost a odpovědi v dotazníku
- Ne; používá pouze věk obžalovaného
- Co zjistila studie Julie Dressel a Hany Farida z roku 2018?
- Netrénovaní online dobrovolníci předpovídali zpětný chod přibližně stejně přesně jako COMPAS
- COMPAS byl přesný na více než 90 procent
- Rozhodčí absolutně ignorovali skóre COMPAS
- COMPAS neměl žádné rasové rozdíly v Broward County
- Pokud použijeme FPR = (p/(1-p)) x ((1-PPV)/PPV) x (1-FNR), pokud jsou PPV a FNR ve skupinách stejné, ale skupina A má vyšší základní míru p, co se stane s mírou falešně pozitivních výsledků skupiny A?
- Musí být nižší
- Musí to být nula
- Není ovlivněn p
- Musí být vyšší
- Proč vynechání závodu z rizikového modelu nezaručuje nezaujaté výsledky?
- Soudy vyžadují zahrnutí rasy
- Korelované vstupy, jako jsou předchozí zatčení, mohou nést historické policejní vzorce
- Modely nemohou fungovat bez demografických dat
- Vynechání závodu vždy způsobí, že model bude pro každou skupinu méně přesný