जीडीपीआर और स्वचालित निर्णय लेना
यूरोपीय संघ का सामान्य डेटा संरक्षण विनियमन लोगों को अधिकार देता है जब कंप्यूटर स्वचालित रूप से उनके बारे में महत्वपूर्ण निर्णय लेते हैं।
सिंहावलोकन
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
गहरा गोता
मई 2018 से लागू जीडीपीआर, ईयू का प्रमुख गोपनीयता कानून है। इसका सबसे एआई-प्रासंगिक प्रावधान अनुच्छेद 22 है, जो कहता है कि लोगों को पूरी तरह से स्वचालित प्रसंस्करण पर आधारित निर्णय के अधीन नहीं होने का अधिकार है जो कानूनी या इसी तरह के महत्वपूर्ण प्रभाव पैदा करता है, जैसे स्वचालित ऋण अस्वीकृति या स्वचालित भर्ती अस्वीकृति। कुछ अपवाद हैं: यदि किसी अनुबंध के लिए आवश्यक हो, कानून द्वारा अधिकृत हो, या स्पष्ट सहमति के आधार पर निर्णय की अनुमति दी जा सकती है। फिर भी, संगठन को अपनी बात व्यक्त करने और निर्णय का विरोध करने के लिए मानवीय हस्तक्षेप के अधिकार सहित सुरक्षा उपायों की पेशकश करनी चाहिए। अनुच्छेद 22 तब लागू होता है जब निर्णय पूरी तरह से स्वचालित और महत्वपूर्ण होता है, भले ही इसमें एआई शामिल हो या नहीं।
तकनीकी अंतर्दृष्टि
अनुच्छेद 22 दो सीमाओं पर टिका है: निर्णय पूरी तरह से स्वचालित होना चाहिए (कोई सार्थक मानवीय भागीदारी नहीं) और इसका कानूनी या समान रूप से महत्वपूर्ण प्रभाव होना चाहिए। एल्गोरिदम के आउटपुट पर मानव रबर-स्टैम्पिंग को सार्थक समीक्षा के रूप में नहीं गिना जाता है। अनुच्छेद 13-15 के साथ मिलकर, नियंत्रकों को इसमें शामिल तर्क के बारे में सार्थक जानकारी प्रदान करनी होगी। यह कंपनियों को समझाने योग्य मॉडल और ऑडिट लॉग की ओर धकेलता है, क्योंकि उन्हें यह वर्णन करने में सक्षम होना चाहिए कि इनपुट किसी निर्णय को कैसे मैप करते हैं।
सामरिक प्रभाव
जोखिम और सुरक्षा
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।
स्पष्ट निर्णय
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।
प्रचार के माध्यम से काटना
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।
जीडीपीआर और स्वचालित निर्णय लेने का भविष्य
जीडीपीआर प्रवर्तन तेज हो रहा है, और यह अब ईयू एआई अधिनियम के साथ ओवरलैप हो गया है, जो क्रेडिट स्कोरिंग और हायरिंग जैसी उच्च जोखिम प्रणालियों के लिए जोखिम-स्तरीय दायित्वों को जोड़ता है। पूरी तरह से स्वचालित निर्णय, प्रोफाइलिंग की सख्त जांच और बड़े जुर्माने (वैश्विक टर्नओवर का 4% तक) के रूप में क्या मायने रखता है, इस पर अधिक मार्गदर्शन की अपेक्षा करें। SCHUFA क्रेडिट-स्कोरिंग मामले में यूरोपीय संघ के न्याय न्यायालय सहित अदालतें सक्रिय रूप से स्पष्ट कर रही हैं कि स्कोर उत्पन्न होने पर अनुच्छेद 22 सुरक्षा कैसे ट्रिगर होती है।
वास्तविक विश्व कार्यान्वयन
एक बैंक स्वचालित रूप से स्कोरिंग एल्गोरिदम का उपयोग करके क्रेडिट कार्ड आवेदन को अस्वीकार कर देता है, फिर आवेदक को मानव समीक्षा का अनुरोध करने का एक तरीका प्रदान करना चाहिए।
एक ऑनलाइन ऋणदाता को तर्क के बारे में सार्थक जानकारी के अधिकार के तहत एक अस्वीकृत उधारकर्ता को स्वचालित इनकार के पीछे मुख्य कारक बताना होगा।
एक गिग-इकोनॉमी प्लेटफ़ॉर्म जो रेटिंग के आधार पर ड्राइवरों को स्वचालित रूप से निष्क्रिय कर देता है, पूरी तरह से स्वचालित बर्खास्तगी पर अनुच्छेद 22 चुनौतियों का सामना करता है।
एआई सीवी-स्क्रीनिंग सॉफ़्टवेयर का उपयोग करने वाले एक भर्तीकर्ता को अनुच्छेद 22 का अनुपालन करने के लिए अंतिम भर्ती अस्वीकृति से पहले एक मानव चेकपॉइंट बनाना होगा।
जोखिम और रेलिंग
अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।
उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।
गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।
कार्यान्वयन रोडमैप
उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।
पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।
विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।
एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
एआई निर्णय लेना
अक्सर पूछे जाने वाले प्रश्नों
What is GDPR and Automated Decision-Making?
यूरोपीय संघ का सामान्य डेटा संरक्षण विनियमन लोगों को अधिकार देता है जब कंप्यूटर स्वचालित रूप से उनके बारे में महत्वपूर्ण निर्णय लेते हैं। यह दुनिया के सबसे प्रभावशाली नियमों में से एक है जो यह निर्धारित करता है कि यूरोपीय लोगों पर एआई सिस्टम का उपयोग कैसे किया जा सकता है।
कौन सा जीडीपीआर लेख विशेष रूप से स्वचालित प्रसंस्करण पर आधारित निर्णयों को संबोधित करता है?
अनुच्छेद 22 व्यक्तियों को केवल स्वचालित प्रसंस्करण पर आधारित निर्णयों के अधीन न होने का अधिकार देता है जिनके कानूनी या समान महत्वपूर्ण प्रभाव होते हैं।
अनुच्छेद 22 को लागू करने के लिए, स्वचालित निर्णय का आम तौर पर किस प्रकार का प्रभाव होना चाहिए?
सुरक्षा तब ट्रिगर होती है जब कोई निर्णय कानूनी प्रभाव उत्पन्न करता है या इसी तरह व्यक्ति को महत्वपूर्ण रूप से प्रभावित करता है, जैसे ऋण अस्वीकृति या नौकरी अस्वीकृति।
जब किसी अपवाद के तहत पूरी तरह से स्वचालित निर्णय की अनुमति दी जाती है, तो संगठन को आम तौर पर क्या सुरक्षा प्रदान करनी चाहिए?
सुरक्षा उपायों में मानवीय हस्तक्षेप, अपना दृष्टिकोण व्यक्त करने और निर्णय का विरोध करने का अधिकार शामिल है।
एक मानव द्वारा एल्गोरिदम के आउटपुट पर केवल रबर-स्टांप लगाने का अनुच्छेद 22 के लिए क्या मतलब है?
सार्थक मानवीय भागीदारी के लिए वास्तविक समीक्षा और अधिकार की आवश्यकता होती है; एक सांकेतिक साइन-ऑफ़ निर्णय को अनुच्छेद 22 के दायरे में रखता है।