VolgendeVolgende gids
CLIP-score en menselijke voorkeursstatistieken
Technisch
Technische GIDS
Groepsrechtvaardigheidsstatistieken meten of de beslissingen of fouten van een model verschillen tussen demografische groepen.
Luister naar deze gidsAI-verteld · ~3 min
Demografische pariteit vergelijkt selectiepercentages, gelijke kansen vergelijkt echt positieve percentages, gelijke kansen vergelijkt zowel echte als fout-positieve percentages, en voorspellende pariteit vergelijkt precisie. Deze definities zijn van belang omdat ze wiskundig gezien met elkaar in strijd kunnen zijn. Het kiezen van een definitie is dus een waardeoordeel over welk soort oneerlijkheid er in een bepaalde gebruikssituatie het meest toe doet.
Neem een leenmodel en twee groepen, A en B, van elk 100 aanvragers. In A zou 50 terugbetalen; in B zouden dat er 20 zijn. Het model keurt 40 goed in A (35 wie zou terugbetalen, 5 wie niet) en 20 in B (14 wie zou terugbetalen, 6 wie niet zou terugbetalen). Demografische pariteit vergelijkt selectiepercentages: 40% versus 20%. De ratio van 0,5 valt onder de drempel van vier vijfde (0,8) uit de Amerikaanse werkgelegenheidsrichtlijnen en faalt dus. Gelijke kansen vergelijken echte positieve cijfers (TPR), het aandeel goedgekeurde gekwalificeerde mensen: 35/50 = 0,70 en 14/20 = 0,70. Het is tevreden. Gelijke kansen (Hardt, Price en Srebro, 2016) vereisen ook gelijke fout-positieve percentages (FPR): 5/50 = 0,10 versus 6/80 = 0,075. Dichtbij, maar niet gelijkwaardig. Voorspellende pariteit vergelijkt precisie of positief voorspellende waarde (PPV): 35/40 = 0,875 versus 14/20 = 0,70. Het mislukt. Wanneer de basistarieven verschillen, zoals hier, kan een imperfecte classificator doorgaans niet aan meerdere definities tegelijk voldoen. Chouldechova (2017) en Kleinberg, Mullainathan en Raghavan (2016) hebben versies hiervan bewezen: met ongelijke basispercentages kan voorspellende pariteit of kalibratie niet samengaan met gelijke vals-positieve en vals-negatieve percentages, behalve in gedegenereerde gevallen zoals perfecte voorspelling. Het COMPAS-debat was precies dit conflict. Het kiezen van een statistiek is afhankelijk van de context. Demografische gelijkheid is geschikt voor gevallen waarin de labels zelf bevooroordeeld kunnen zijn of waarbij het doel gelijke toegang is. Gelijke kansen zijn geschikt voor gevallen waarin het missen van een gekwalificeerd persoon de grootste schade vormt. Gelijke kansen vergroten de bezorgdheid over valse beschuldigingen. Voorspellende pariteit of kalibratie is van belang wanneer besluitvormers een score als een waarschijnlijkheid lezen. Een veel voorkomende misvatting is dat het verwijderen van het beschermde attribuut een model eerlijk maakt. Gecorreleerde proxy's zoals postcode kunnen dezelfde informatie bevatten.
Een wervingsscherm bevordert 40% van de sollicitanten van de ene groep en 20% van die van een andere groep. De ratio van 0,5 valt onder de viervijfde vuistregel die wordt gebruikt in de Amerikaanse analyse van arbeidsdiscriminatie, wat wijst op zorgen over demografische gelijkheid.
Een medisch screeningmodel vangt 70% van de echte gevallen in beide groepen op. Het voldoet aan gelijke kansen, ook al verschillen de selectiepercentages van de groepen.
Uit ProPublica's analyse uit 2016 van de COMPAS-recidivetool bleek dat zwarte verdachten hogere percentages vals-positieven hadden. De leverancier antwoordde dat zijn scores voor alle groepen een vergelijkbare voorspellende waarde hadden. Het geschil liet twee eerlijkheidsmaatstaven zien die in direct conflict stonden.
Een datawetenschapper gebruikt het MetricFrame van Fairlearn om de nauwkeurigheid, het selectiepercentage en het percentage fout-positieve resultaten per groep te verlagen. Vervolgens past ze ThresholdOptimizer toe om groepsspecifieke drempels in te stellen die voldoen aan gelijke kansen.
Groepsstatistieken worden steeds vaker opgenomen in audits en regelgeving. De wet van New York City inzake geautomatiseerde instrumenten voor arbeidsbeslissingen vereist bijvoorbeeld bias-audits die impactratio's rapporteren. Er wordt onderzoek gedaan naar individuele eerlijkheid, causale eerlijkheid en eerlijkheid voor generatieve modellen, waarbij de uitkomsten tekst zijn in plaats van ja-of-nee-beslissingen en de standaardstatistieken niet rechtstreeks van toepassing zijn. De onmogelijkheidsresultaten zijn wiskundig en zullen niet verdwijnen. Toekomstige vooruitgang zal waarschijnlijk eerder voortkomen uit betere labels, betere documentatie van welke afwegingen zijn gekozen en waarom, en input van belanghebbenden dan uit een enkele universele maatstaf.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Groepsrechtvaardigheidsstatistieken meten of de beslissingen of fouten van een model verschillen tussen demografische groepen. Demografische pariteit vergelijkt selectiepercentages, gelijke kansen vergelijkt echt positieve percentages, gelijke kansen vergelijkt zowel echte als fout-positieve percentages, en voorspellende pariteit vergelijkt precisie. Deze definities zijn van belang omdat ze wiskundig gezien met elkaar in strijd kunnen zijn. Het kiezen van een definitie is dus een waardeoordeel over welk soort oneerlijkheid er in een bepaalde gebruikssituatie het meest toe doet.
Demografische pariteit vergelijkt selectiepercentages. Een ratio van 0,5 faalt en valt onder de drempel van vier vijfde.
Gelijke kansen vereisen dat gekwalificeerde mensen in hetzelfde tempo worden goedgekeurd, wat het echte positieve percentage is.
Gelijke kansen vereisen zowel gelijke werkelijk positieve percentages als gelijke fout-positieve percentages over de groepen heen.
FPR is gelijk aan valse positieven gedeeld door alle feitelijke negatieven. Groep B heeft 100 aanvragers en 20 zouden terugbetalen, waardoor er 80 feitelijke negatieven overblijven.
Bij ongelijke basistarieven zijn deze criteria in conflict, behalve in gedegenereerde gevallen, zoals een perfecte voorspeller. Het COMPAS-debat liet dit conflict in de praktijk zien.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
CLIP-score en menselijke voorkeursstatistieken
Technisch