तकनीकी गाइड

एआई निष्पक्षता मेट्रिक्स: समान बाधाओं के लिए जनसांख्यिकीय समानता

समूह निष्पक्षता मेट्रिक्स मापती है कि किसी मॉडल के निर्णय या त्रुटियाँ जनसांख्यिकीय समूहों में भिन्न हैं या नहीं।

इस गाइड को सुनेंएआई-नैरेटेड · ~3 min

इस पृष्ठ पर4 मिनट पढ़ें
  1. सिंहावलोकन
  2. गहरा गोता
  3. वास्तविक विश्व कार्यान्वयन
  4. एआई फेयरनेस मेट्रिक्स का भविष्य: समान बाधाओं के लिए जनसांख्यिकीय समानता
  5. इसे व्यवहार में लाना
  6. अन्वेषण करते रहें
  7. अक्सर पूछे जाने वाले प्रश्नों

सिंहावलोकन

जनसांख्यिकीय समानता चयन दरों की तुलना करती है, समान अवसर वास्तविक सकारात्मक दरों की तुलना करती है, समान अंतर वास्तविक और गलत दोनों सकारात्मक दरों की तुलना करती है, और भविष्य कहनेवाला समानता सटीकता की तुलना करती है। ये परिभाषाएँ मायने रखती हैं क्योंकि वे गणितीय रूप से विरोधाभासी हो सकती हैं, इसलिए किसी एक को चुनना एक मूल्य निर्णय है कि किसी विशेष उपयोग के मामले में किस प्रकार की अनुचितता सबसे अधिक मायने रखती है।

गहरा गोता

एक ऋण मॉडल और प्रत्येक 100 आवेदकों के दो समूह, ए और बी लें। ए में, 50 चुकाना होगा; बी में, 20 होगा. मॉडल ए में 40 (35 जो चुकाएंगे, 5 जो नहीं लौटाएंगे) और बी में 20 (14 जो चुकाएंगे, 6 जो नहीं चुकाएंगे) को मंजूरी देता है। जनसांख्यिकीय समानता चयन दरों की तुलना करती है: 40% बनाम 20%। 0.5 का अनुपात अमेरिकी रोजगार दिशानिर्देशों से चार-पाँचवें (0.8) सीमा से नीचे आता है, इसलिए यह विफल हो जाता है। समान अवसर वास्तविक सकारात्मक दरों (टीपीआर) की तुलना करता है, स्वीकृत योग्य लोगों की हिस्सेदारी: 35/50 = 0.70 और 14/20 = 0.70। यह संतुष्ट है. समान बाधाओं (हार्ड्ट, प्राइस और स्रेब्रो, 2016) के लिए भी समान झूठी सकारात्मक दरों (एफपीआर) की आवश्यकता होती है: 5/50 = 0.10 बनाम 6/80 = 0.075। करीब, लेकिन बराबर नहीं. पूर्वानुमानित समता सटीकता, या सकारात्मक पूर्वानुमानित मान (पीपीवी) की तुलना करती है: 35/40 = 0.875 बनाम 14/20 = 0.70। यह विफल रहा। जब आधार दरें भिन्न होती हैं, जैसा कि यहां है, एक अपूर्ण वर्गीकरणकर्ता आम तौर पर एक साथ कई परिभाषाओं को संतुष्ट नहीं कर सकता है। चौल्देचोवा (2017) और क्लेनबर्ग, मुलैनाथन और राघवन (2016) ने इसके सिद्ध संस्करण दिए: असमान आधार दरों के साथ, पूर्वानुमानित समता या अंशांकन समान झूठी सकारात्मक और झूठी नकारात्मक दरों के साथ नहीं रह सकता है, पूर्ण भविष्यवाणी जैसे विकृत मामलों को छोड़कर। कम्पास बहस वास्तव में यही संघर्ष था। मेट्रिक का चयन संदर्भ पर निर्भर करता है। जनसांख्यिकीय समानता उन मामलों के लिए उपयुक्त है जहां लेबल स्वयं पक्षपाती हो सकते हैं या जहां लक्ष्य समान पहुंच है। समान अवसर उन मामलों में उपयुक्त है जहां योग्य व्यक्ति का न होना मुख्य नुकसान है। समान संभावनाएँ झूठे आरोपों के बारे में चिंता बढ़ाती हैं। जब निर्णय-निर्माता किसी अंक को संभाव्यता के रूप में पढ़ते हैं तो पूर्वानुमानित समता या अंशांकन मायने रखता है। एक आम ग़लतफ़हमी यह है कि संरक्षित विशेषता को हटाने से एक मॉडल निष्पक्ष हो जाता है। ज़िप कोड जैसे सहसंबद्ध प्रॉक्सी समान जानकारी ले सकते हैं।

वास्तविक विश्व कार्यान्वयन

एक नियुक्ति स्क्रीन एक समूह के आवेदकों में से 40% और दूसरे समूह के 20% आवेदकों को आगे बढ़ाती है। 0.5 का अनुपात अमेरिकी रोजगार भेदभाव विश्लेषण में उपयोग किए जाने वाले चार-पाँचवें नियम से नीचे आता है, जो जनसांख्यिकीय समानता की चिंता का संकेत देता है।

एक मेडिकल स्क्रीनिंग मॉडल दोनों समूहों में 70% सच्चे मामलों को पकड़ता है। यह समान अवसर को संतुष्ट करता है, भले ही समूहों की चयन दरें भिन्न हों।

ProPublica के 2016 में COMPAS रिसिडिविज़्म टूल के विश्लेषण में पाया गया कि काले प्रतिवादियों में झूठी सकारात्मक दर अधिक थी। विक्रेता ने जवाब दिया कि उसके स्कोर का सभी समूहों में समान पूर्वानुमानित मूल्य था। विवाद ने सीधे टकराव में दो निष्पक्षता मेट्रिक्स दिखाए।

एक डेटा वैज्ञानिक समूह द्वारा सटीकता, चयन दर और झूठी सकारात्मक दर को तोड़ने के लिए फेयरलर्न के मेट्रिकफ़्रेम का उपयोग करता है। फिर वह समूह-विशिष्ट सीमाएँ निर्धारित करने के लिए थ्रेशोल्डऑप्टिमाइज़र लागू करती है जो समान बाधाओं को पूरा करती है।

एआई फेयरनेस मेट्रिक्स का भविष्य: समान बाधाओं के लिए जनसांख्यिकीय समानता

ग्रुप मेट्रिक्स को ऑडिट और विनियमन में तेजी से लिखा जा रहा है। उदाहरण के लिए, स्वचालित रोज़गार निर्णय टूल पर न्यूयॉर्क शहर के कानून में पूर्वाग्रह ऑडिट की आवश्यकता होती है जो प्रभाव अनुपात की रिपोर्ट करती है। व्यक्तिगत निष्पक्षता, कारण निष्पक्षता और जेनरेटिव मॉडल के लिए निष्पक्षता पर शोध जारी है, जहां आउटपुट हां-या-नहीं निर्णयों के बजाय टेक्स्ट होते हैं और मानक मेट्रिक्स सीधे लागू नहीं होते हैं। असंभवता के परिणाम गणितीय हैं और दूर नहीं होंगे। भविष्य में प्रगति एक एकल सार्वभौमिक मीट्रिक की तुलना में बेहतर लेबल, कौन से ट्रेड-ऑफ़ को चुना गया और क्यों, और हितधारक इनपुट के बेहतर दस्तावेज़ीकरण से आने की अधिक संभावना है।

इसे व्यवहार में लाना

यह क्यों मायने रखता है?

  • लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
  • स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
  • गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।

का ध्यान रखें

  • एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
  • बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
  • जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।

अगले चरण

  1. कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
  2. यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
  3. त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
  4. स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।

अन्वेषण करते रहें

मुफ़्त न्यूज़लेटर

दैनिक एआई ब्रीफिंग प्राप्त करें

हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।

प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।

स्वयं की जांच करो

Take the AI Fairness Metrics: Demographic Parity to Equalized Odds quiz

प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।

प्रश्नोत्तरी प्रारंभ करें

निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें

अक्सर पूछे जाने वाले प्रश्नों

एआई फेयरनेस मेट्रिक्स क्या है: समान बाधाओं के लिए जनसांख्यिकीय समानता?

समूह निष्पक्षता मेट्रिक्स मापती है कि किसी मॉडल के निर्णय या त्रुटियाँ जनसांख्यिकीय समूहों में भिन्न हैं या नहीं। जनसांख्यिकीय समानता चयन दरों की तुलना करती है, समान अवसर वास्तविक सकारात्मक दरों की तुलना करती है, समान अंतर वास्तविक और गलत दोनों सकारात्मक दरों की तुलना करती है, और भविष्य कहनेवाला समानता सटीकता की तुलना करती है। ये परिभाषाएँ मायने रखती हैं क्योंकि वे गणितीय रूप से विरोधाभासी हो सकती हैं, इसलिए किसी एक को चुनना एक मूल्य निर्णय है कि किसी विशेष उपयोग के मामले में किस प्रकार की अनुचितता सबसे अधिक मायने रखती है।

गाइड के ऋण उदाहरण में, समूह ए की चयन दर 40% है और समूह बी की चयन दर 20% है। यह किस मीट्रिक का उल्लंघन करता है?

जनसांख्यिकीय समानता चयन दरों की तुलना करती है। 0.5 का अनुपात इसे विफल कर देता है और चार-पांचवें सीमा से नीचे आ जाता है।

समान अवसर के लिए समूहों में किस मात्रा का समान होना आवश्यक है?

समान अवसर मांग करता है कि योग्य लोगों को उसी दर पर मंजूरी दी जाए, जो वास्तविक सकारात्मक दर है।

समान संभावनाएँ समान अवसर के शीर्ष पर क्या जोड़ती हैं?

समान बाधाओं के लिए समूहों में समान सच्ची सकारात्मक दर और समान झूठी सकारात्मक दर दोनों की आवश्यकता होती है।

उदाहरण में, समूह बी की झूठी सकारात्मक दर 80 में से 6 है। हर 80 क्यों है?

एफपीआर सभी वास्तविक नकारात्मक से विभाजित झूठी सकारात्मकता के बराबर है। समूह बी में 100 आवेदक हैं और 20 भुगतान करेंगे, जिससे 80 वास्तविक नकारात्मक परिणाम निकलते हैं।

चौल्देचोवा और क्लेनबर्ग एट अल से असंभवता का क्या परिणाम निकलता है। कहना?

असमान आधार दरों के साथ, ये मानदंड एक आदर्श भविष्यवक्ता जैसे पतित मामलों को छोड़कर संघर्ष करते हैं। कम्पास बहस ने व्यवहार में इस संघर्ष को दिखाया।

सीखते रहो

संबंधित मार्गदर्शिकाएँ

इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं

निःशुल्क AI प्रमाणपत्र प्राप्त करेंएक संक्षिप्त निःशुल्क पाठ्यक्रम और परीक्षा। कोई कीमत नहीं, कोई कार्ड नहीं. लगभग 2.5 घंटे.निःशुल्क प्रारंभ करें →