Technische GIDS

AI Fairness-statistieken: demografische gelijkheid met gelijke kansen

Groepsrechtvaardigheidsstatistieken meten of de beslissingen of fouten van een model verschillen tussen demografische groepen.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van AI Fairness Metrics: demografische gelijkheid met gelijke kansen
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Demografische pariteit vergelijkt selectiepercentages, gelijke kansen vergelijkt echt positieve percentages, gelijke kansen vergelijkt zowel echte als fout-positieve percentages, en voorspellende pariteit vergelijkt precisie. Deze definities zijn van belang omdat ze wiskundig gezien met elkaar in strijd kunnen zijn. Het kiezen van een definitie is dus een waardeoordeel over welk soort oneerlijkheid er in een bepaalde gebruikssituatie het meest toe doet.

Diepe duik

Neem een ​​leenmodel en twee groepen, A en B, van elk 100 aanvragers. In A zou 50 terugbetalen; in B zouden dat er 20 zijn. Het model keurt 40 goed in A (35 wie zou terugbetalen, 5 wie niet) en 20 in B (14 wie zou terugbetalen, 6 wie niet zou terugbetalen). Demografische pariteit vergelijkt selectiepercentages: 40% versus 20%. De ratio van 0,5 valt onder de drempel van vier vijfde (0,8) uit de Amerikaanse werkgelegenheidsrichtlijnen en faalt dus. Gelijke kansen vergelijken echte positieve cijfers (TPR), het aandeel goedgekeurde gekwalificeerde mensen: 35/50 = 0,70 en 14/20 = 0,70. Het is tevreden. Gelijke kansen (Hardt, Price en Srebro, 2016) vereisen ook gelijke fout-positieve percentages (FPR): 5/50 = 0,10 versus 6/80 = 0,075. Dichtbij, maar niet gelijkwaardig. Voorspellende pariteit vergelijkt precisie of positief voorspellende waarde (PPV): 35/40 = 0,875 versus 14/20 = 0,70. Het mislukt. Wanneer de basistarieven verschillen, zoals hier, kan een imperfecte classificator doorgaans niet aan meerdere definities tegelijk voldoen. Chouldechova (2017) en Kleinberg, Mullainathan en Raghavan (2016) hebben versies hiervan bewezen: met ongelijke basispercentages kan voorspellende pariteit of kalibratie niet samengaan met gelijke vals-positieve en vals-negatieve percentages, behalve in gedegenereerde gevallen zoals perfecte voorspelling. Het COMPAS-debat was precies dit conflict. Het kiezen van een statistiek is afhankelijk van de context. Demografische gelijkheid is geschikt voor gevallen waarin de labels zelf bevooroordeeld kunnen zijn of waarbij het doel gelijke toegang is. Gelijke kansen zijn geschikt voor gevallen waarin het missen van een gekwalificeerd persoon de grootste schade vormt. Gelijke kansen vergroten de bezorgdheid over valse beschuldigingen. Voorspellende pariteit of kalibratie is van belang wanneer besluitvormers een score als een waarschijnlijkheid lezen. Een veel voorkomende misvatting is dat het verwijderen van het beschermde attribuut een model eerlijk maakt. Gecorreleerde proxy's zoals postcode kunnen dezelfde informatie bevatten.

Implementatie in de echte wereld

Een wervingsscherm bevordert 40% van de sollicitanten van de ene groep en 20% van die van een andere groep. De ratio van 0,5 valt onder de viervijfde vuistregel die wordt gebruikt in de Amerikaanse analyse van arbeidsdiscriminatie, wat wijst op zorgen over demografische gelijkheid.

Een medisch screeningmodel vangt 70% van de echte gevallen in beide groepen op. Het voldoet aan gelijke kansen, ook al verschillen de selectiepercentages van de groepen.

Uit ProPublica's analyse uit 2016 van de COMPAS-recidivetool bleek dat zwarte verdachten hogere percentages vals-positieven hadden. De leverancier antwoordde dat zijn scores voor alle groepen een vergelijkbare voorspellende waarde hadden. Het geschil liet twee eerlijkheidsmaatstaven zien die in direct conflict stonden.

Een datawetenschapper gebruikt het MetricFrame van Fairlearn om de nauwkeurigheid, het selectiepercentage en het percentage fout-positieve resultaten per groep te verlagen. Vervolgens past ze ThresholdOptimizer toe om groepsspecifieke drempels in te stellen die voldoen aan gelijke kansen.

De toekomst van AI Fairness Metrics: demografische gelijkheid met gelijke kansen

Groepsstatistieken worden steeds vaker opgenomen in audits en regelgeving. De wet van New York City inzake geautomatiseerde instrumenten voor arbeidsbeslissingen vereist bijvoorbeeld bias-audits die impactratio's rapporteren. Er wordt onderzoek gedaan naar individuele eerlijkheid, causale eerlijkheid en eerlijkheid voor generatieve modellen, waarbij de uitkomsten tekst zijn in plaats van ja-of-nee-beslissingen en de standaardstatistieken niet rechtstreeks van toepassing zijn. De onmogelijkheidsresultaten zijn wiskundig en zullen niet verdwijnen. Toekomstige vooruitgang zal waarschijnlijk eerder voortkomen uit betere labels, betere documentatie van welke afwegingen zijn gekozen en waarom, en input van belanghebbenden dan uit een enkele universele maatstaf.

Het in de praktijk brengen

Waarom het ertoe doet

  • Kosten en budget. Architectuurbeslissingen bepalen jarenlang de prestaties en bedrijfskosten.
  • Duidelijkere beslissingen. Technisch onderwijs helpt teams bij het kiezen van de juiste stapel, niet alleen de nieuwste.
  • Kwaliteitscontrole. Betere technische keuzes verminderen het aantal betrouwbaarheidsincidenten in de productie.

Pas op voor

  • Het optimaliseren van één benchmark kan bredere systeemzwakheden verbergen.
  • Infrastructuur- en onderhoudskosten worden vaak onderschat.
  • De lacunes op het gebied van beveiliging en waarneembaarheid kunnen groter worden naarmate systemen complexer worden.

Volgende stappen

  1. Definieer latentie-, kwaliteits- en kostendoelen vóór implementatie.
  2. Benchmark onder realistische belasting- en gegevensomstandigheden.
  3. Instrumentbewaking op fouten, drift en gebruikersimpact.
  4. Bereid rollback- en incidentresponspaden voor voordat u gaat schalen.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the AI Fairness Metrics: Demographic Parity to Equalized Odds quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat zijn AI Fairness Metrics: demografische gelijkheid met gelijke kansen?

Groepsrechtvaardigheidsstatistieken meten of de beslissingen of fouten van een model verschillen tussen demografische groepen. Demografische pariteit vergelijkt selectiepercentages, gelijke kansen vergelijkt echt positieve percentages, gelijke kansen vergelijkt zowel echte als fout-positieve percentages, en voorspellende pariteit vergelijkt precisie. Deze definities zijn van belang omdat ze wiskundig gezien met elkaar in strijd kunnen zijn. Het kiezen van een definitie is dus een waardeoordeel over welk soort oneerlijkheid er in een bepaalde gebruikssituatie het meest toe doet.

In het leenvoorbeeld van de gids heeft groep A een selectiepercentage van 40% en groep B een selectiepercentage van 20%. Welke statistiek wordt hierdoor geschonden?

Demografische pariteit vergelijkt selectiepercentages. Een ratio van 0,5 faalt en valt onder de drempel van vier vijfde.

Gelijke kansen vereisen welke hoeveelheid gelijk is voor alle groepen?

Gelijke kansen vereisen dat gekwalificeerde mensen in hetzelfde tempo worden goedgekeurd, wat het echte positieve percentage is.

Wat voegt gelijke kansen toe naast gelijke kansen?

Gelijke kansen vereisen zowel gelijke werkelijk positieve percentages als gelijke fout-positieve percentages over de groepen heen.

In het voorbeeld is het fout-positieve percentage van groep B 6 van 80. Waarom is de noemer 80?

FPR is gelijk aan valse positieven gedeeld door alle feitelijke negatieven. Groep B heeft 100 aanvragers en 20 zouden terugbetalen, waardoor er 80 feitelijke negatieven overblijven.

Wat vloeit de onmogelijkheid voort uit Chouldechova en Kleinberg et al. inspraak?

Bij ongelijke basistarieven zijn deze criteria in conflict, behalve in gedegenereerde gevallen, zoals een perfecte voorspeller. Het COMPAS-debat liet dit conflict in de praktijk zien.