आगेअगली गाइड
सीएलआईपी स्कोर और मानव वरीयता मेट्रिक्स
तकनीकी
तकनीकी गाइड
समूह निष्पक्षता मेट्रिक्स मापती है कि किसी मॉडल के निर्णय या त्रुटियाँ जनसांख्यिकीय समूहों में भिन्न हैं या नहीं।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
जनसांख्यिकीय समानता चयन दरों की तुलना करती है, समान अवसर वास्तविक सकारात्मक दरों की तुलना करती है, समान अंतर वास्तविक और गलत दोनों सकारात्मक दरों की तुलना करती है, और भविष्य कहनेवाला समानता सटीकता की तुलना करती है। ये परिभाषाएँ मायने रखती हैं क्योंकि वे गणितीय रूप से विरोधाभासी हो सकती हैं, इसलिए किसी एक को चुनना एक मूल्य निर्णय है कि किसी विशेष उपयोग के मामले में किस प्रकार की अनुचितता सबसे अधिक मायने रखती है।
एक ऋण मॉडल और प्रत्येक 100 आवेदकों के दो समूह, ए और बी लें। ए में, 50 चुकाना होगा; बी में, 20 होगा. मॉडल ए में 40 (35 जो चुकाएंगे, 5 जो नहीं लौटाएंगे) और बी में 20 (14 जो चुकाएंगे, 6 जो नहीं चुकाएंगे) को मंजूरी देता है। जनसांख्यिकीय समानता चयन दरों की तुलना करती है: 40% बनाम 20%। 0.5 का अनुपात अमेरिकी रोजगार दिशानिर्देशों से चार-पाँचवें (0.8) सीमा से नीचे आता है, इसलिए यह विफल हो जाता है। समान अवसर वास्तविक सकारात्मक दरों (टीपीआर) की तुलना करता है, स्वीकृत योग्य लोगों की हिस्सेदारी: 35/50 = 0.70 और 14/20 = 0.70। यह संतुष्ट है. समान बाधाओं (हार्ड्ट, प्राइस और स्रेब्रो, 2016) के लिए भी समान झूठी सकारात्मक दरों (एफपीआर) की आवश्यकता होती है: 5/50 = 0.10 बनाम 6/80 = 0.075। करीब, लेकिन बराबर नहीं. पूर्वानुमानित समता सटीकता, या सकारात्मक पूर्वानुमानित मान (पीपीवी) की तुलना करती है: 35/40 = 0.875 बनाम 14/20 = 0.70। यह विफल रहा। जब आधार दरें भिन्न होती हैं, जैसा कि यहां है, एक अपूर्ण वर्गीकरणकर्ता आम तौर पर एक साथ कई परिभाषाओं को संतुष्ट नहीं कर सकता है। चौल्देचोवा (2017) और क्लेनबर्ग, मुलैनाथन और राघवन (2016) ने इसके सिद्ध संस्करण दिए: असमान आधार दरों के साथ, पूर्वानुमानित समता या अंशांकन समान झूठी सकारात्मक और झूठी नकारात्मक दरों के साथ नहीं रह सकता है, पूर्ण भविष्यवाणी जैसे विकृत मामलों को छोड़कर। कम्पास बहस वास्तव में यही संघर्ष था। मेट्रिक का चयन संदर्भ पर निर्भर करता है। जनसांख्यिकीय समानता उन मामलों के लिए उपयुक्त है जहां लेबल स्वयं पक्षपाती हो सकते हैं या जहां लक्ष्य समान पहुंच है। समान अवसर उन मामलों में उपयुक्त है जहां योग्य व्यक्ति का न होना मुख्य नुकसान है। समान संभावनाएँ झूठे आरोपों के बारे में चिंता बढ़ाती हैं। जब निर्णय-निर्माता किसी अंक को संभाव्यता के रूप में पढ़ते हैं तो पूर्वानुमानित समता या अंशांकन मायने रखता है। एक आम ग़लतफ़हमी यह है कि संरक्षित विशेषता को हटाने से एक मॉडल निष्पक्ष हो जाता है। ज़िप कोड जैसे सहसंबद्ध प्रॉक्सी समान जानकारी ले सकते हैं।
एक नियुक्ति स्क्रीन एक समूह के आवेदकों में से 40% और दूसरे समूह के 20% आवेदकों को आगे बढ़ाती है। 0.5 का अनुपात अमेरिकी रोजगार भेदभाव विश्लेषण में उपयोग किए जाने वाले चार-पाँचवें नियम से नीचे आता है, जो जनसांख्यिकीय समानता की चिंता का संकेत देता है।
एक मेडिकल स्क्रीनिंग मॉडल दोनों समूहों में 70% सच्चे मामलों को पकड़ता है। यह समान अवसर को संतुष्ट करता है, भले ही समूहों की चयन दरें भिन्न हों।
ProPublica के 2016 में COMPAS रिसिडिविज़्म टूल के विश्लेषण में पाया गया कि काले प्रतिवादियों में झूठी सकारात्मक दर अधिक थी। विक्रेता ने जवाब दिया कि उसके स्कोर का सभी समूहों में समान पूर्वानुमानित मूल्य था। विवाद ने सीधे टकराव में दो निष्पक्षता मेट्रिक्स दिखाए।
एक डेटा वैज्ञानिक समूह द्वारा सटीकता, चयन दर और झूठी सकारात्मक दर को तोड़ने के लिए फेयरलर्न के मेट्रिकफ़्रेम का उपयोग करता है। फिर वह समूह-विशिष्ट सीमाएँ निर्धारित करने के लिए थ्रेशोल्डऑप्टिमाइज़र लागू करती है जो समान बाधाओं को पूरा करती है।
ग्रुप मेट्रिक्स को ऑडिट और विनियमन में तेजी से लिखा जा रहा है। उदाहरण के लिए, स्वचालित रोज़गार निर्णय टूल पर न्यूयॉर्क शहर के कानून में पूर्वाग्रह ऑडिट की आवश्यकता होती है जो प्रभाव अनुपात की रिपोर्ट करती है। व्यक्तिगत निष्पक्षता, कारण निष्पक्षता और जेनरेटिव मॉडल के लिए निष्पक्षता पर शोध जारी है, जहां आउटपुट हां-या-नहीं निर्णयों के बजाय टेक्स्ट होते हैं और मानक मेट्रिक्स सीधे लागू नहीं होते हैं। असंभवता के परिणाम गणितीय हैं और दूर नहीं होंगे। भविष्य में प्रगति एक एकल सार्वभौमिक मीट्रिक की तुलना में बेहतर लेबल, कौन से ट्रेड-ऑफ़ को चुना गया और क्यों, और हितधारक इनपुट के बेहतर दस्तावेज़ीकरण से आने की अधिक संभावना है।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
समूह निष्पक्षता मेट्रिक्स मापती है कि किसी मॉडल के निर्णय या त्रुटियाँ जनसांख्यिकीय समूहों में भिन्न हैं या नहीं। जनसांख्यिकीय समानता चयन दरों की तुलना करती है, समान अवसर वास्तविक सकारात्मक दरों की तुलना करती है, समान अंतर वास्तविक और गलत दोनों सकारात्मक दरों की तुलना करती है, और भविष्य कहनेवाला समानता सटीकता की तुलना करती है। ये परिभाषाएँ मायने रखती हैं क्योंकि वे गणितीय रूप से विरोधाभासी हो सकती हैं, इसलिए किसी एक को चुनना एक मूल्य निर्णय है कि किसी विशेष उपयोग के मामले में किस प्रकार की अनुचितता सबसे अधिक मायने रखती है।
जनसांख्यिकीय समानता चयन दरों की तुलना करती है। 0.5 का अनुपात इसे विफल कर देता है और चार-पांचवें सीमा से नीचे आ जाता है।
समान अवसर मांग करता है कि योग्य लोगों को उसी दर पर मंजूरी दी जाए, जो वास्तविक सकारात्मक दर है।
समान बाधाओं के लिए समूहों में समान सच्ची सकारात्मक दर और समान झूठी सकारात्मक दर दोनों की आवश्यकता होती है।
एफपीआर सभी वास्तविक नकारात्मक से विभाजित झूठी सकारात्मकता के बराबर है। समूह बी में 100 आवेदक हैं और 20 भुगतान करेंगे, जिससे 80 वास्तविक नकारात्मक परिणाम निकलते हैं।
असमान आधार दरों के साथ, ये मानदंड एक आदर्श भविष्यवक्ता जैसे पतित मामलों को छोड़कर संघर्ष करते हैं। कम्पास बहस ने व्यवहार में इस संघर्ष को दिखाया।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
सीएलआईपी स्कोर और मानव वरीयता मेट्रिक्स
तकनीकी