技術指南

AI 公平性指標:人口統計與賠率均等

群體公平性指標衡量模型的決策或錯誤在不同人口群體之間是否有差異。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 人工智慧公平指標的未來:人口平等與賠率均等
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

人口統計比較選擇率,均等機會比較真陽性率,均等賠率比較真陽性率和假陽性率,預測均等比較精確度。這些定義很重要,因為它們可能在數學上發生衝突,因此選擇定義是對特定用例中哪種不公平最重要的價值判斷。

深入探討

採用貸款模型和兩組,A 和 B,每組 100 名申請人。在A中,50將償還;在B中,20會。該模型批准 A 中的 40 人(35 人會償還,5 人不會)和 B 中的 20 人(14 人會償還,6 人不會)。人口平等比較選擇率:40% 與 20%。 0.5 的比率低於美國就業指南的五分之四 (0.8) 閾值,因此失敗。平等機會比較真陽性率 (TPR),即合格人員獲得批准的比例:35/50 = 0.70 和 14/20 = 0.70。就很滿足了。均等賠率(Hardt、Price 和 Srebro,2016)也要求相同的假陽性率 (FPR):5/50 = 0.10 與 6/80 = 0.075。接近,但不相等。預測奇偶性比較精確度或陽性預測值 (PPV):35/40 = 0.875 與 14/20 = 0.70。它失敗了。當基本率不同時(如此處所示),不完美的分類器通常無法同時滿足多個定義。 Chouldechova (2017) 和 Kleinberg、Mullainathan 和 Raghavan (2016) 證明了這一點:在不同的基本率下,預測奇偶性或校準不能與相同的假陽性率和假陰性率同時存在,除非在完美預測等退化情況下。 COMPAS 辯論正是這種衝突。選擇指標取決於上下文。人口統計平等適用於標籤本身可能有偏見或目標是平等存取的情況。機會均等適合以缺乏合格人才為主要危害的情況。平等的勝算增加了人們對虛假指控的擔憂。當決策者將分數視為機率時,預測平價或校準很重要。一個常見的誤解是刪除受保護的屬性會使模型公平。相關代理商(例如郵遞區號)可以攜帶相同的資訊。

現實世界的實施

招募篩選會優先錄取一組申請者的 40% 和另一組申請者的 20%。 0.5 的比率低於美國就業歧視分析中使用的五分之四經驗法則,這標誌著人口平等問題。

醫學篩檢模型可以發現兩組真實病例的 70%。它滿足機會均等,儘管各群體的選擇率不同。

ProPublica 2016 年對 COMPAS 累犯工具的分析發現,黑人被告的誤報率較高。該供應商回應稱,其分數在不同組別中具有相似的預測價值。這場爭論顯示兩個公平指標存在直接衝突。

一位資料科學家使用 Fairlearn 的 MetricFrame 按組降低準確性、選擇率和誤報率。然後,她應用 ThresholdOptimizer 設定滿足均等賠率的特定組閾值。

人工智慧公平指標的未來:人口平等與賠率均等

集團指標越來越多地寫入審計和監管中。例如,紐約市關於自動化就業決策工具的法律要求進行報告影響率的偏見審計。關於個體公平性、因果公平性和生成模型公平性的研究仍在繼續,其中輸出是文本而不是是或否決策,並且標準指標不直接適用。不可能的結果是數學上的並且不會消失。未來的進步更有可能來自更好的標籤、更好的記錄選擇的權衡和原因以及利害關係人的意見,而不是來自單一的通用指標。

付諸實踐

為什麼這很重要

  • 成本與預算. 多年來,架構決策決定著效能和營運成本。
  • 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
  • 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。

留意

  • 優化一項基準測試可以隱藏更廣泛的系統弱點。
  • 基礎設施和維護成本常常被低估。
  • 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。

後續步驟

  1. 在實施之前定義延遲、品質和成本目標。
  2. 在實際負載和資料條件下進行基準測試。
  3. 儀器監控錯誤、漂移和使用者影響。
  4. 在擴展之前準備回滾和事件回應路徑。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the AI Fairness Metrics: Demographic Parity to Equalized Odds quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是人工智慧公平指標:人口統計與均等賠率?

群體公平性指標衡量模型的決策或錯誤在不同人口群體之間是否有差異。人口統計比較選擇率,均等機會比較真陽性率,均等賠率比較真陽性率和假陽性率,預測均等比較精確度。這些定義很重要,因為它們可能在數學上發生衝突,因此選擇定義是對特定用例中哪種不公平最重要的價值判斷。

在指引的貸款範例中,A 組的選擇率為 40%,B 組的選擇率為 20%。這違反了哪個指標?

人口平等比較選擇率。 0.5 的比率未能滿足要求,低於五分之四閾值。

平等機會要求各群體之間的數量相等?

機會平等要求合格的人以相同的比率獲得批准,這就是真正的比率。

除了機會均等之外,賠率均等還能增加什麼?

均等賠率要求各組之間的真陽性率和假陽性率均相等。

在範例中,B 組的誤報率為 80 中的 6。為什麼分母是 80?

FPR 等於假陽性除以所有實際陰性。 B 組有 100 名申請人,20 名將償還,剩下 80 名實際負數。

Chouldechova 和 Kleinberg 等人的不可能結果是什麼?說?

由於基準率不相等,這些標準會發生衝突,除非在諸如完美預測變數之類的退化情況下。 COMPAS 辯論在實踐中表明了這種衝突。