LegközelebbKövetkező útmutató
CLIP pontszám és emberi preferencia mérőszámai
Műszaki
Műszaki ÚTMUTATÓ
A csoport méltányossági mérőszámai azt mérik, hogy a modell döntései vagy hibái eltérnek-e a demográfiai csoportok között.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
A demográfiai paritás összehasonlítja a kiválasztási arányokat, az esélyegyenlőség a valódi pozitív arányokat, az egyenlő esélyek az igaz és a hamis pozitív arányokat, a prediktív paritás pedig a pontosságot. Ezek a definíciók azért fontosak, mert matematikailag ütközhetnek egymással, ezért az egyik kiválasztása egy értékítélet arra vonatkozóan, hogy egy adott használati esetben melyik méltánytalanság számít leginkább.
Take a loan model and two groups, A and B, of 100 applicants each. In A, 50 would repay; in B, 20 would. The model approves 40 in A (35 who would repay, 5 who would not) and 20 in B (14 who would repay, 6 who would not). Demographic parity compares selection rates: 40% versus 20%. The ratio of 0.5 falls below the four-fifths (0.8) threshold from US employment guidelines, so it fails. Equal opportunity compares true positive rates (TPR), the share of qualified people approved: 35/50 = 0.70 and 14/20 = 0.70. It is satisfied. Equalized odds (Hardt, Price and Srebro, 2016) also requires equal false positive rates (FPR): 5/50 = 0.10 versus 6/80 = 0.075. Close, but not equal. Predictive parity compares precision, or positive predictive value (PPV): 35/40 = 0.875 versus 14/20 = 0.70. It fails. When base rates differ, as here, an imperfect classifier generally cannot satisfy several definitions at once. Chouldechova (2017) and Kleinberg, Mullainathan and Raghavan (2016) proved versions of this: with unequal base rates, predictive parity or calibration cannot hold alongside equal false positive and false negative rates, except in degenerate cases such as perfect prediction. The COMPAS debate was exactly this conflict. Choosing a metric depends on context. Demographic parity suits cases where the labels themselves may be biased or where the goal is equal access. Equal opportunity suits cases where missing a qualified person is the main harm. Equalized odds adds concern about false accusations. Predictive parity or calibration matters when decision-makers read a score as a probability. A common misconception is that removing the protected attribute makes a model fair. Correlated proxies such as zip code can carry the same information.
A felvételi képernyő az egyik csoport jelentkezőinek 40%-át, a másik csoport jelentkezőinek 20%-át segíti elő. A 0,5-ös arány az Egyesült Államok foglalkoztatási diszkriminációs elemzésében használt négyötöd-ökölszabály alá esik, ami demográfiai paritási aggályt jelez.
Az orvosi szűrési modell mindkét csoportban a valódi esetek 70%-át rögzíti. Kielégíti az esélyegyenlőséget, annak ellenére, hogy a csoportok kiválasztási aránya eltérő.
A ProPublica 2016-os, a COMPAS bűnismétlési eszközre vonatkozó elemzése megállapította, hogy a fekete vádlottaknál magasabb volt a hamis pozitív arány. Az eladó azt válaszolta, hogy pontszámai hasonló prediktív értékkel rendelkeznek a csoportok között. A vita két méltányossági mutatót mutatott közvetlen ütközésben.
Egy adatkutató a Fairlearn-féle MetricFrame segítségével csoportonként lebontja a pontosságot, a kiválasztási arányt és a hamis pozitív arányt. Ezután a ThresholdOptimizer segítségével csoportspecifikus küszöbértékeket állít be, amelyek kielégítik a kiegyenlített esélyeket.
A csoportmérők egyre inkább bekerülnek az auditokba és a szabályozásba. A New York-i törvény az automatizált foglalkoztatási döntéshozatali eszközökről például előírja a hatásarányokról szóló torzítási auditokat. Folytatódik a kutatás az egyéni méltányosság, az ok-okozati méltányosság és a méltányosság terén a generatív modelleknél, ahol a kimenetek inkább szövegesek, mint igen vagy nem döntések, és a standard mérőszámok nem vonatkoznak közvetlenül. A lehetetlenségi eredmények matematikaiak és nem tűnnek el. A jövőbeni előrelépés nagyobb valószínűséggel a jobb címkékből, a jobb dokumentációból származik arról, hogy melyik kompromisszumot választották és miért, valamint az érdekelt felek hozzájárulása, mint egyetlen univerzális mérőszám.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A csoport méltányossági mérőszámai azt mérik, hogy a modell döntései vagy hibái eltérnek-e a demográfiai csoportok között. A demográfiai paritás összehasonlítja a kiválasztási arányokat, az esélyegyenlőség a valódi pozitív arányokat, az egyenlő esélyek az igaz és a hamis pozitív arányokat, a prediktív paritás pedig a pontosságot. Ezek a definíciók azért fontosak, mert matematikailag ütközhetnek egymással, ezért az egyik kiválasztása egy értékítélet arra vonatkozóan, hogy egy adott használati esetben melyik méltánytalanság számít leginkább.
A demográfiai paritás összehasonlítja a kiválasztási arányokat. A 0,5-ös arány ezt meghiúsítja, és a négyötödös küszöb alá esik.
Az esélyegyenlőség megköveteli, hogy a képzett embereket ugyanolyan arányban hagyják jóvá, ami az igazi pozitív arány.
A kiegyenlített esélyek egyenlő valódi pozitív és azonos hamis pozitív arányokat igényelnek a csoportok között.
Az FPR egyenlő a hamis pozitív érték osztva az összes tényleges negatív értékkel. A B csoportnak 100 jelentkezője van, és 20 törlesztene, ami 80 tényleges negatívumot hagy maga után.
Egyenlőtlen alapkamat esetén ezek a kritériumok ütköznek egymással, kivéve az olyan degenerált eseteket, mint a tökéletes előrejelző. A COMPAS-vita a gyakorlatban is megmutatta ezt a konfliktust.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
CLIP pontszám és emberi preferencia mérőszámai
Műszaki