आगेअगली गाइड
लिंग के रंग और चेहरे की पहचान पूर्वाग्रह ऑडिट
समाज
समाज गाइड
NYC स्थानीय कानून 144 के अनुसार, न्यूयॉर्क शहर में भर्ती या पदोन्नति के लिए स्वचालित रोजगार निर्णय उपकरण (एईडीटी) का उपयोग करने वाले नियोक्ताओं और रोजगार एजेंसियों को प्रत्येक वर्ष एक स्वतंत्र पूर्वाग्रह ऑडिट प्राप्त करने, परिणामों का सारांश प्रकाशित करने और उपकरण का उपयोग करने से पहले उम्मीदवारों को सूचित करने की आवश्यकता होती है।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
यह पहले कानूनों में से एक था जिसमें भर्ती एल्गोरिदम के पूर्वाग्रह ऑडिट की आवश्यकता होती थी, और इसके शुरुआती रिकॉर्ड से पता चलता है कि ऐसे ऑडिट क्या प्रकट कर सकते हैं और उन्हें लागू करना कितना कठिन है।
न्यूयॉर्क सिटी काउंसिल ने 2021 में स्थानीय कानून 144 पारित किया। यह 1 जनवरी, 2023 को प्रभावी हुआ और उपभोक्ता और श्रमिक संरक्षण विभाग (डीसीडब्ल्यूपी) ने 5 जुलाई, 2023 को इसे लागू करना शुरू किया। एईडीटी मशीन लर्निंग, सांख्यिकीय मॉडलिंग, डेटा एनालिटिक्स या एआई से प्राप्त एक कम्प्यूटेशनल प्रक्रिया है जो स्कोर, वर्गीकरण या सिफारिश जैसे सरलीकृत आउटपुट जारी करती है, जिसका उपयोग विवेकाधीन निर्णय लेने में काफी हद तक सहायता या बदलने के लिए किया जाता है। रोजगार संबंधी निर्णयों के लिए. अंतिम नियम काफी हद तक संकीर्ण रूप से सहायता करते हैं: उदाहरण के लिए, केवल आउटपुट पर भरोसा करना, इसे अन्य मानदंडों से अधिक महत्व देना, या मानव निर्णय को खत्म करने के लिए इसका उपयोग करना। आलोचकों का तर्क है कि इससे कई नियोक्ता निर्णय ले सकते हैं कि उनके उपकरण दायरे से बाहर हैं। एईडीटी का उपयोग करने से पहले, एक नियोक्ता को पिछले वर्ष के भीतर एक स्वतंत्र ऑडिटर द्वारा पूर्वाग्रह ऑडिट करवाना होगा और एक सारांश ऑनलाइन पोस्ट करना होगा, जिसमें ऑडिट की तारीख, टूल की वितरण तिथि, और चयन या स्कोरिंग दरें और लिंग, जाति/जातीयता और अंतरविषयक श्रेणियों द्वारा प्रभाव अनुपात शामिल हों। उम्मीदवार और कर्मचारी जो NYC निवासी हैं, उन्हें उपयोग से कम से कम 10 व्यावसायिक दिन पहले नोटिस प्राप्त करना होगा, जिसमें उपकरण द्वारा मूल्यांकन की जाने वाली नौकरी की योग्यताएं और विशेषताएं, और वैकल्पिक प्रक्रिया या आवास का अनुरोध करने के निर्देश शामिल होंगे। कानून को नियोक्ता को वह विकल्प प्रदान करने की आवश्यकता नहीं है, और यह पासिंग स्कोर निर्धारित नहीं करता है: असमानता दिखाने वाला ऑडिट अपने आप में उपयोग को गैरकानूनी नहीं बनाता है, हालांकि संघीय और राज्य भेदभाव-विरोधी कानून अभी भी लागू होते हैं। पहले उल्लंघन के लिए जुर्माना $500 और बाद के उल्लंघन के लिए $1,500 तक है। प्रवर्तन अब तक कमजोर दिख रहा है। 2024 के एक अकादमिक अध्ययन में पाया गया कि जांच किए गए सैकड़ों नियोक्ताओं में से केवल एक छोटे से हिस्से ने ऑडिट पोस्ट किया था, और 2025 के अंत में जारी न्यूयॉर्क राज्य नियंत्रक ऑडिट ने डीसीडब्ल्यूपी के शिकायत-संचालित प्रवर्तन की आलोचना की थी। एक आम ग़लतफ़हमी यह है कि कानून पक्षपातपूर्ण उपकरणों पर प्रतिबंध लगाता है; यह मुख्य रूप से पारदर्शिता को अनिवार्य करता है।
मैनहट्टन में काम पर रखने वाला एक खुदरा विक्रेता सॉफ्टवेयर का उपयोग करता है जो बायोडाटा मिलान के आधार पर आवेदकों को रैंक करता है, इसलिए यह एक स्वतंत्र लेखा परीक्षक को काम पर रखता है, लिंग और नस्ल/जातीयता के आधार पर प्रभाव अनुपात की गणना करता है, और अपने करियर पृष्ठ पर सारांश पोस्ट करता है।
NYC भूमिकाओं के लिए AI वीडियो-साक्षात्कार स्कोरिंग टूल का उपयोग करने वाली एक स्टाफिंग एजेंसी उम्मीदवारों को कम से कम 10 व्यावसायिक दिन पहले नोटिस भेजती है, जिसमें बताया जाता है कि टूल का उपयोग किया जाएगा और वैकल्पिक प्रक्रिया या आवास का अनुरोध कैसे किया जाए।
कोई कंपनी किसी टूल का उपयोग केवल साक्षात्कार शेड्यूल करने के लिए करती है और उम्मीदवारों को स्कोर करने या रैंक देने के लिए इसका उपयोग नहीं करती है, इसलिए यह निष्कर्ष निकलता है कि टूल संभवतः नियमों के तहत भर्ती निर्णय में पर्याप्त सहायता नहीं करता है।
एक ऑडिटर को पता चलता है कि ऑडिट डेटा का 2 प्रतिशत से भी कम हिस्सा एक जाति श्रेणी से आता है, और प्रकाशित सारांश नोट करता है कि श्रेणी को नियमों की अनुमति के अनुसार प्रभाव अनुपात गणना से बाहर रखा गया था।
स्थानीय कानून 144 राज्य के बिलों और कोलोराडो एआई अधिनियम सहित अन्य प्रस्तावों के लिए एक संदर्भ बिंदु बन गया है, जो उच्च जोखिम वाले उपयोगों के बीच काम पर रखना रखता है। इसके शुरुआती रिकॉर्ड ने नीति निर्माताओं को कवर किए गए टूल, स्पष्ट प्रवर्तन और प्रकटीकरण से परे कर्तव्यों की व्यापक परिभाषाओं पर विचार करने के लिए प्रेरित किया है। शहर के अधिकारियों और परिषद के सदस्यों ने आलोचना के जवाब में संशोधनों पर चर्चा की है, हालांकि परिणाम अनिश्चित है। नियोक्ताओं के लिए, स्थायी सबक यह है कि प्रभाव अनुपात परीक्षण, स्वतंत्र ऑडिट और उम्मीदवार नोटिस भर्ती में एआई के लिए मानक अभ्यास बन रहे हैं, भले ही नियम अंततः तय हो जाएं।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
NYC स्थानीय कानून 144 के अनुसार, न्यूयॉर्क शहर में भर्ती या पदोन्नति के लिए स्वचालित रोजगार निर्णय उपकरण (एईडीटी) का उपयोग करने वाले नियोक्ताओं और रोजगार एजेंसियों को प्रत्येक वर्ष एक स्वतंत्र पूर्वाग्रह ऑडिट प्राप्त करने, परिणामों का सारांश प्रकाशित करने और उपकरण का उपयोग करने से पहले उम्मीदवारों को सूचित करने की आवश्यकता होती है। यह पहले कानूनों में से एक था जिसमें भर्ती एल्गोरिदम के पूर्वाग्रह ऑडिट की आवश्यकता होती थी, और इसके शुरुआती रिकॉर्ड से पता चलता है कि ऐसे ऑडिट क्या प्रकट कर सकते हैं और उन्हें लागू करना कितना कठिन है।
DCWP ने नियमों को अपनाया और 5 जुलाई, 2023 को प्रवर्तन शुरू किया।
प्रत्येक श्रेणी की चयन दर की तुलना उच्चतम श्रेणी की चयन दर से की जाती है।
कानून के अनुसार उपयोग से पहले कम से कम 10 कार्य दिवसों का नोटिस आवश्यक है।
कानून पास/फेल मानक के बजाय पारदर्शिता को अनिवार्य बनाता है, हालांकि अन्य भेदभाव-विरोधी कानून अभी भी लागू होते हैं।
स्कोरिंग दरें कटऑफ के रूप में नमूना माध्यिका का उपयोग करती हैं, फिर सभी श्रेणियों में तुलना की जाती है।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
लिंग के रंग और चेहरे की पहचान पूर्वाग्रह ऑडिट
समाज