समाज गाइड

जीडीपीआर और स्वचालित निर्णय लेना

यूरोपीय संघ का सामान्य डेटा संरक्षण विनियमन लोगों को अधिकार देता है जब कंप्यूटर स्वचालित रूप से उनके बारे में महत्वपूर्ण निर्णय लेते हैं।

सिंहावलोकन

यूरोपीय संघ का सामान्य डेटा संरक्षण विनियमन लोगों को अधिकार देता है जब कंप्यूटर स्वचालित रूप से उनके बारे में महत्वपूर्ण निर्णय लेते हैं। यह दुनिया के सबसे प्रभावशाली नियमों में से एक है जो यह निर्धारित करता है कि यूरोपीय लोगों पर एआई सिस्टम का उपयोग कैसे किया जा सकता है।

जीडीपीआर और स्वचालित निर्णय-निर्माण क्षमता, शक्ति और सार्वजनिक पसंद के चौराहे पर बैठता है - जहां सुरक्षा, शासन और वैधता तय करती है कि उन्नत एआई मदद करता है या बड़े पैमाने पर नुकसान पहुंचाता है।

गहरा गोता

मई 2018 से लागू जीडीपीआर, ईयू का प्रमुख गोपनीयता कानून है। इसका सबसे एआई-प्रासंगिक प्रावधान अनुच्छेद 22 है, जो कहता है कि लोगों को पूरी तरह से स्वचालित प्रसंस्करण पर आधारित निर्णय के अधीन नहीं होने का अधिकार है जो कानूनी या इसी तरह के महत्वपूर्ण प्रभाव पैदा करता है, जैसे स्वचालित ऋण अस्वीकृति या स्वचालित भर्ती अस्वीकृति। कुछ अपवाद हैं: यदि किसी अनुबंध के लिए आवश्यक हो, कानून द्वारा अधिकृत हो, या स्पष्ट सहमति के आधार पर निर्णय की अनुमति दी जा सकती है। फिर भी, संगठन को अपनी बात व्यक्त करने और निर्णय का विरोध करने के लिए मानवीय हस्तक्षेप के अधिकार सहित सुरक्षा उपायों की पेशकश करनी चाहिए। अनुच्छेद 22 तब लागू होता है जब निर्णय पूरी तरह से स्वचालित और महत्वपूर्ण होता है, भले ही इसमें एआई शामिल हो या नहीं।

तकनीकी अंतर्दृष्टि

अनुच्छेद 22 दो सीमाओं पर टिका है: निर्णय पूरी तरह से स्वचालित होना चाहिए (कोई सार्थक मानवीय भागीदारी नहीं) और इसका कानूनी या समान रूप से महत्वपूर्ण प्रभाव होना चाहिए। एल्गोरिदम के आउटपुट पर मानव रबर-स्टैम्पिंग को सार्थक समीक्षा के रूप में नहीं गिना जाता है। अनुच्छेद 13-15 के साथ मिलकर, नियंत्रकों को इसमें शामिल तर्क के बारे में सार्थक जानकारी प्रदान करनी होगी। यह कंपनियों को समझाने योग्य मॉडल और ऑडिट लॉग की ओर धकेलता है, क्योंकि उन्हें यह वर्णन करने में सक्षम होना चाहिए कि इनपुट किसी निर्णय को कैसे मैप करते हैं।

जीडीपीआर और स्वचालित निर्णय लेने में महारत हासिल करना

गहरी समझ बनाने के लिए, जीडीपीआर और स्वचालित निर्णय-प्रक्रिया को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि एक विशेषता के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।

व्यवहार में, जीडीपीआर और स्वचालित निर्णय-निर्माण क्षमता का उपयोग करने वाली मजबूत टीमें शासन, सुरक्षा और स्पष्ट जवाबदेही संरचनाओं के साथ जोड़ी क्षमता में वृद्धि करती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। साथ ही, अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।

सामरिक प्रभाव

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।

सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।

स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

जीडीपीआर और स्वचालित निर्णय लेने का भविष्य

जीडीपीआर प्रवर्तन तेज हो रहा है, और यह अब ईयू एआई अधिनियम के साथ ओवरलैप हो गया है, जो क्रेडिट स्कोरिंग और हायरिंग जैसी उच्च जोखिम प्रणालियों के लिए जोखिम-स्तरीय दायित्वों को जोड़ता है। पूरी तरह से स्वचालित निर्णय, प्रोफाइलिंग की सख्त जांच और बड़े जुर्माने (वैश्विक टर्नओवर का 4% तक) के रूप में क्या मायने रखता है, इस पर अधिक मार्गदर्शन की अपेक्षा करें। SCHUFA क्रेडिट-स्कोरिंग मामले में यूरोपीय संघ के न्याय न्यायालय सहित अदालतें सक्रिय रूप से स्पष्ट कर रही हैं कि स्कोर उत्पन्न होने पर अनुच्छेद 22 सुरक्षा कैसे ट्रिगर होती है।

वास्तविक विश्व कार्यान्वयन

एक बैंक स्वचालित रूप से स्कोरिंग एल्गोरिदम का उपयोग करके क्रेडिट कार्ड आवेदन को अस्वीकार कर देता है, फिर आवेदक को मानव समीक्षा का अनुरोध करने का एक तरीका प्रदान करना चाहिए।

एक ऑनलाइन ऋणदाता को तर्क के बारे में सार्थक जानकारी के अधिकार के तहत एक अस्वीकृत उधारकर्ता को स्वचालित इनकार के पीछे मुख्य कारक बताना होगा।

एक गिग-इकोनॉमी प्लेटफ़ॉर्म जो रेटिंग के आधार पर ड्राइवरों को स्वचालित रूप से निष्क्रिय कर देता है, पूरी तरह से स्वचालित बर्खास्तगी पर अनुच्छेद 22 चुनौतियों का सामना करता है।

एआई सीवी-स्क्रीनिंग सॉफ़्टवेयर का उपयोग करने वाले एक भर्तीकर्ता को अनुच्छेद 22 का अनुपालन करने के लिए अंतिम भर्ती अस्वीकृति से पहले एक मानव चेकपॉइंट बनाना होगा।

कार्यान्वयन पैटर्न

व्यवहार में जीडीपीआर और स्वचालित निर्णय लेना

एक बैंक स्वचालित रूप से स्कोरिंग एल्गोरिदम का उपयोग करके क्रेडिट कार्ड आवेदन को अस्वीकार कर देता है, फिर आवेदक को मानव समीक्षा का अनुरोध करने का एक तरीका प्रदान करना चाहिए।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में जीडीपीआर और स्वचालित निर्णय लेना

एक ऑनलाइन ऋणदाता को तर्क के बारे में सार्थक जानकारी के अधिकार के तहत एक अस्वीकृत उधारकर्ता को स्वचालित इनकार के पीछे मुख्य कारक बताना होगा।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में जीडीपीआर और स्वचालित निर्णय लेना

एक गिग-इकोनॉमी प्लेटफ़ॉर्म जो रेटिंग के आधार पर ड्राइवरों को स्वचालित रूप से निष्क्रिय कर देता है, पूरी तरह से स्वचालित बर्खास्तगी पर अनुच्छेद 22 चुनौतियों का सामना करता है।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में जीडीपीआर और स्वचालित निर्णय लेना

एआई सीवी-स्क्रीनिंग सॉफ़्टवेयर का उपयोग करने वाले एक भर्तीकर्ता को अनुच्छेद 22 का अनुपालन करने के लिए अंतिम भर्ती अस्वीकृति से पहले एक मानव चेकपॉइंट बनाना होगा।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

जोखिम और रेलिंग

!

अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।

!

उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।

!

गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।

कार्यान्वयन रोडमैप

1

उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

2

पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

3

विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

4

एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

अन्वेषण करते रहें

Check your understanding

Test yourself: take the GDPR and Automated Decision-Making quiz

Start quiz