Műszaki ÚTMUTATÓ

AI Fairness Metrics: Demográfiai paritás az egyenlő esélyekhez

A csoport méltányossági mérőszámai azt mérik, hogy a modell döntései vagy hibái eltérnek-e a demográfiai csoportok között.

Hallgassa meg ezt az útmutatótAI-narrált · ~3 min

Ezen az oldalon4 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A mesterséges intelligencia méltányossági mérőszámainak jövője: Demográfiai paritás az egyenlő esélyekhez képest
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

A demográfiai paritás összehasonlítja a kiválasztási arányokat, az esélyegyenlőség a valódi pozitív arányokat, az egyenlő esélyek az igaz és a hamis pozitív arányokat, a prediktív paritás pedig a pontosságot. Ezek a definíciók azért fontosak, mert matematikailag ütközhetnek egymással, ezért az egyik kiválasztása egy értékítélet arra vonatkozóan, hogy egy adott használati esetben melyik méltánytalanság számít leginkább.

Mély merülés

Take a loan model and two groups, A and B, of 100 applicants each. In A, 50 would repay; in B, 20 would. The model approves 40 in A (35 who would repay, 5 who would not) and 20 in B (14 who would repay, 6 who would not). Demographic parity compares selection rates: 40% versus 20%. The ratio of 0.5 falls below the four-fifths (0.8) threshold from US employment guidelines, so it fails. Equal opportunity compares true positive rates (TPR), the share of qualified people approved: 35/50 = 0.70 and 14/20 = 0.70. It is satisfied. Equalized odds (Hardt, Price and Srebro, 2016) also requires equal false positive rates (FPR): 5/50 = 0.10 versus 6/80 = 0.075. Close, but not equal. Predictive parity compares precision, or positive predictive value (PPV): 35/40 = 0.875 versus 14/20 = 0.70. It fails. When base rates differ, as here, an imperfect classifier generally cannot satisfy several definitions at once. Chouldechova (2017) and Kleinberg, Mullainathan and Raghavan (2016) proved versions of this: with unequal base rates, predictive parity or calibration cannot hold alongside equal false positive and false negative rates, except in degenerate cases such as perfect prediction. The COMPAS debate was exactly this conflict. Choosing a metric depends on context. Demographic parity suits cases where the labels themselves may be biased or where the goal is equal access. Equal opportunity suits cases where missing a qualified person is the main harm. Equalized odds adds concern about false accusations. Predictive parity or calibration matters when decision-makers read a score as a probability. A common misconception is that removing the protected attribute makes a model fair. Correlated proxies such as zip code can carry the same information.

Valós megvalósítás

A felvételi képernyő az egyik csoport jelentkezőinek 40%-át, a másik csoport jelentkezőinek 20%-át segíti elő. A 0,5-ös arány az Egyesült Államok foglalkoztatási diszkriminációs elemzésében használt négyötöd-ökölszabály alá esik, ami demográfiai paritási aggályt jelez.

Az orvosi szűrési modell mindkét csoportban a valódi esetek 70%-át rögzíti. Kielégíti az esélyegyenlőséget, annak ellenére, hogy a csoportok kiválasztási aránya eltérő.

A ProPublica 2016-os, a COMPAS bűnismétlési eszközre vonatkozó elemzése megállapította, hogy a fekete vádlottaknál magasabb volt a hamis pozitív arány. Az eladó azt válaszolta, hogy pontszámai hasonló prediktív értékkel rendelkeznek a csoportok között. A vita két méltányossági mutatót mutatott közvetlen ütközésben.

Egy adatkutató a Fairlearn-féle MetricFrame segítségével csoportonként lebontja a pontosságot, a kiválasztási arányt és a hamis pozitív arányt. Ezután a ThresholdOptimizer segítségével csoportspecifikus küszöbértékeket állít be, amelyek kielégítik a kiegyenlített esélyeket.

A mesterséges intelligencia méltányossági mérőszámainak jövője: Demográfiai paritás az egyenlő esélyekhez képest

A csoportmérők egyre inkább bekerülnek az auditokba és a szabályozásba. A New York-i törvény az automatizált foglalkoztatási döntéshozatali eszközökről például előírja a hatásarányokról szóló torzítási auditokat. Folytatódik a kutatás az egyéni méltányosság, az ok-okozati méltányosság és a méltányosság terén a generatív modelleknél, ahol a kimenetek inkább szövegesek, mint igen vagy nem döntések, és a standard mérőszámok nem vonatkoznak közvetlenül. A lehetetlenségi eredmények matematikaiak és nem tűnnek el. A jövőbeni előrelépés nagyobb valószínűséggel a jobb címkékből, a jobb dokumentációból származik arról, hogy melyik kompromisszumot választották és miért, valamint az érdekelt felek hozzájárulása, mint egyetlen univerzális mérőszám.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Töltsd ki az AI Fairness Metrics: Demográfiai paritás az egyenlő esélyekhez kvízt

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az AI méltányossági mérőszáma: Demográfiai paritás az egyenlő esélyekhez képest?

A csoport méltányossági mérőszámai azt mérik, hogy a modell döntései vagy hibái eltérnek-e a demográfiai csoportok között. A demográfiai paritás összehasonlítja a kiválasztási arányokat, az esélyegyenlőség a valódi pozitív arányokat, az egyenlő esélyek az igaz és a hamis pozitív arányokat, a prediktív paritás pedig a pontosságot. Ezek a definíciók azért fontosak, mert matematikailag ütközhetnek egymással, ezért az egyik kiválasztása egy értékítélet arra vonatkozóan, hogy egy adott használati esetben melyik méltánytalanság számít leginkább.

Az útmutató kölcsönzési példájában az A csoport 40%-os, a B csoport pedig 20%-os kiválasztási rátával rendelkezik. Melyik mérőszámot sérti ez?

A demográfiai paritás összehasonlítja a kiválasztási arányokat. A 0,5-ös arány ezt meghiúsítja, és a négyötödös küszöb alá esik.

Az esélyegyenlőség megköveteli, hogy melyik mennyiség legyen egyenlő a csoportok között?

Az esélyegyenlőség megköveteli, hogy a képzett embereket ugyanolyan arányban hagyják jóvá, ami az igazi pozitív arány.

Mit tesz hozzá a kiegyenlített esély az esélyegyenlőséghez?

A kiegyenlített esélyek egyenlő valódi pozitív és azonos hamis pozitív arányokat igényelnek a csoportok között.

A példában a B csoport hamis pozitív aránya 6/80. Miért 80 a nevező?

Az FPR egyenlő a hamis pozitív érték osztva az összes tényleges negatív értékkel. A B csoportnak 100 jelentkezője van, és 20 törlesztene, ami 80 tényleges negatívumot hagy maga után.

Mit eredményez a lehetetlenség Chouldechova és Kleinberg et al. mondjuk?

Egyenlőtlen alapkamat esetén ezek a kritériumok ütköznek egymással, kivéve az olyan degenerált eseteket, mint a tökéletes előrejelző. A COMPAS-vita a gyakorlatban is megmutatta ezt a konfliktust.