आगेअगली गाइड
अनुच्छेद 27 के तहत मौलिक अधिकार प्रभाव आकलन
समाज
समाज गाइड
एल्गोरिथम प्रभाव मूल्यांकन (एआईए) एक संरचित समीक्षा है, जो तैनाती से पहले और उसके दौरान की जाती है, जो पहचानती है कि एक स्वचालित या एआई प्रणाली किसे प्रभावित कर सकती है, इससे क्या नुकसान हो सकता है, और कौन से सुरक्षा उपाय उन्हें कम करेंगे।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
यह मायने रखता है क्योंकि यह संगठनों को जोखिमों और निर्णयों को पहले से दस्तावेज करने के लिए मजबूर करता है, और स्वचालित निर्णय लेने पर कनाडा के निर्देश और ईयू एआई अधिनियम जैसे नियमों को अब इसके संस्करणों की आवश्यकता है।
एआईए पर्यावरण और गोपनीयता प्रभाव आकलन से उधार लेता है: कार्य करने से पहले परिणामों के बारे में सोचें, उन्हें लिखें, और शमन के लिए प्रतिबद्ध हों। एक अच्छा मूल्यांकन आमतौर पर सिस्टम के उद्देश्य और कानूनी आधार को कवर करता है; यह किस निर्णय का समर्थन करता है और यह मानवीय निर्णय को कितना प्रतिस्थापित करता है; डेटा स्रोत और उनकी गुणवत्ता; प्रभावित समूह, विशेषकर कमज़ोर समूह; भेदभाव, त्रुटि, गोपनीयता हानि या बहिष्करण जैसे संभावित नुकसान; निरीक्षण, स्पष्टीकरण और अपील मार्ग; और निगरानी एवं समीक्षा के लिए एक योजना। कनाडा सबसे प्रसिद्ध सरकारी उदाहरण प्रस्तुत करता है। स्वचालित निर्णय लेने पर इसका निर्देश, 2019 से लागू है, संघीय संस्थानों को स्वचालित निर्णय प्रणालियों का उपयोग करने से पहले एक एल्गोरिदमिक प्रभाव आकलन पूरा करने की आवश्यकता होती है। एआईए जोखिम प्रश्नों और शमन प्रश्नों वाली एक ऑनलाइन प्रश्नावली है। स्कोर सिस्टम को चार प्रभाव स्तरों में से एक पर रखता है, कम से लेकर बहुत अधिक प्रभाव तक, और प्रत्येक स्तर विशिष्ट आवश्यकताओं को ट्रिगर करता है, जैसे सहकर्मी समीक्षा, प्रभावित लोगों को नोटिस, निर्णयों और स्पष्टीकरण में मानवीय हस्तक्षेप। पूर्ण मूल्यांकन सरकार के खुले डेटा पोर्टल पर प्रकाशित किए जाते हैं। ईयू एआई अधिनियम अनुच्छेद 27 के तहत एक मौलिक अधिकार प्रभाव मूल्यांकन (एफआरआईए) जोड़ता है। यह उच्च जोखिम प्रणालियों के तैनातीकर्ताओं पर लागू होता है जो सार्वजनिक निकाय या सार्वजनिक सेवाएं प्रदान करने वाली निजी संस्थाएं हैं, और क्रेडिट स्कोरिंग और जीवन और स्वास्थ्य बीमा मूल्य निर्धारण जैसी कुछ प्रणालियों के तैनातीकर्ताओं पर लागू होता है। एफआरआईए वर्णन करता है कि सिस्टम का उपयोग कैसे और कितनी बार किया जाता है, कौन प्रभावित होता है, विशिष्ट जोखिम, मानव निरीक्षण उपाय और यदि जोखिम उत्पन्न होता है तो क्या होता है, और नियोक्ता बाजार निगरानी प्राधिकरण को सूचित करता है। यह जीडीपीआर के तहत डेटा सुरक्षा प्रभाव मूल्यांकन को प्रतिस्थापित करने के बजाय पूरक करता है। एक आम ग़लतफ़हमी यह है कि एआईए एक बार का अनुपालन प्रपत्र है। इसका मूल्य डिज़ाइन निर्णयों को बदलने और सिस्टम, डेटा या संदर्भ बदलने पर दोबारा समीक्षा करने से आता है।
एक कनाडाई संघीय विभाग वीज़ा आवेदनों का परीक्षण करने के लिए एक मॉडल का उपयोग करने की योजना बना रहा है, जो सरकार की ऑनलाइन एआईए प्रश्नावली को पूरा करता है, एक प्रभाव स्तर प्राप्त करता है, और फिर उस स्तर की आवश्यकता के अनुसार अंतिम निर्णयों में सहकर्मी समीक्षा और मानव भागीदारी की व्यवस्था करनी चाहिए।
यूरोपीय संघ में एक क्षेत्रीय बैंक एक उच्च-जोखिम क्रेडिट स्कोरिंग प्रणाली को तैनात करते हुए एक मौलिक अधिकार प्रभाव मूल्यांकन तैयार करता है जिसमें प्रभावित आवेदक समूहों, भेदभाव के जोखिम, मानव निरीक्षण व्यवस्था और शिकायतों को कैसे संभाला जाएगा, इसका वर्णन किया जाएगा।
किरायेदार जोखिम-स्कोरिंग टूल पर विचार करने वाली एक शहर आवास एजेंसी अपने मूल्यांकन के हिस्से के रूप में एक सार्वजनिक परामर्श चलाती है, और अधिवक्ताओं द्वारा पिछले भेदभाव को ट्रैक करने के बाद बेदखली इतिहास को इनपुट के रूप में छोड़ने का निर्णय लेती है।
सेप्सिस अलर्ट मॉडल अपनाने वाला अस्पताल एक वर्ष के उपयोग के बाद इसके प्रभाव मूल्यांकन को अपडेट करता है, जिसमें वार्डों और रोगी समूहों में गलत अलार्म दरों की निगरानी शामिल होती है।
प्रभाव आकलन वैकल्पिक नैतिकता अभ्यास के बजाय एआई शासन का एक मानक हिस्सा बनता जा रहा है। जैसे ही उच्च-जोखिम प्रणालियों के लिए ईयू एआई अधिनियम दायित्व प्रभावी होंगे, संगठनों को दोहराए जाने योग्य टेम्पलेट्स की आवश्यकता होगी, और नियामक पर्याप्त एफआरआईए में क्या शामिल है, इस पर आगे मार्गदर्शन प्रकाशित कर सकते हैं। ISO/IEC 42005 जैसे मानक विभिन्न देशों में अभ्यास को संरेखित करने में मदद कर सकते हैं। खुले प्रश्न गुणवत्ता और स्वतंत्रता हैं: उसी टीम द्वारा लिखे गए आकलन जो एक सिस्टम को तैनात करना चाहते हैं, बॉक्स-टिकिंग बन सकते हैं। आकलन का प्रकाशन, सार्थक सार्वजनिक परामर्श और बाहरी समीक्षा ऐसे तंत्र हैं जो उन्हें ईमानदार बनाए रखने की सबसे अधिक संभावना रखते हैं, लेकिन उन्हें कितने व्यापक रूप से अपनाया जाएगा यह अभी भी अनिश्चित है।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
एल्गोरिथम प्रभाव मूल्यांकन (एआईए) एक संरचित समीक्षा है, जो तैनाती से पहले और उसके दौरान की जाती है, जो पहचानती है कि एक स्वचालित या एआई प्रणाली किसे प्रभावित कर सकती है, इससे क्या नुकसान हो सकता है, और कौन से सुरक्षा उपाय उन्हें कम करेंगे। यह मायने रखता है क्योंकि यह संगठनों को जोखिमों और निर्णयों को पहले से दस्तावेज करने के लिए मजबूर करता है, और स्वचालित निर्णय लेने पर कनाडा के निर्देश और ईयू एआई अधिनियम जैसे नियमों को अब इसके संस्करणों की आवश्यकता है।
एआईए प्रभावित लोगों, संभावित नुकसान और शमन की एक संरचित समीक्षा है, जो पहले से की जाती है और समय के साथ दोबारा समीक्षा की जाती है।
एआईए पर्यावरण और गोपनीयता प्रभाव आकलन से उधार लेते हैं: परिणामों का अनुमान लगाते हैं, उनका दस्तावेजीकरण करते हैं और शमन के लिए प्रतिबद्ध होते हैं।
स्कोर सिस्टम को चार प्रभाव स्तरों में से एक में रखता है, प्रत्येक में सहकर्मी समीक्षा, नोटिस और मानवीय हस्तक्षेप जैसी आवश्यकताएं होती हैं।
पूर्ण कनाडाई एआईए पारदर्शिता का समर्थन करते हुए खुले सरकारी डेटा पोर्टल पर प्रकाशित किए जाते हैं।
एआई अधिनियम का अनुच्छेद 27 उच्च-जोखिम प्रणालियों के कुछ नियोक्ताओं के लिए FRIA को शामिल करता है।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
अनुच्छेद 27 के तहत मौलिक अधिकार प्रभाव आकलन
समाज