समाज गाइड

ईयू एआई अधिनियम

ईयू एआई अधिनियम कृत्रिम बुद्धिमत्ता को विनियमित करने वाला दुनिया का पहला व्यापक कानून है, जो एआई सिस्टम को जोखिम स्तरों में ऐसे नियमों के साथ क्रमबद्ध करता है जो खतरा बढ़ने पर बढ़ते हैं।

सिंहावलोकन

ईयू एआई अधिनियम कृत्रिम बुद्धिमत्ता को विनियमित करने वाला दुनिया का पहला व्यापक कानून है, जो एआई सिस्टम को जोखिम स्तरों में ऐसे नियमों के साथ क्रमबद्ध करता है जो खतरा बढ़ने पर बढ़ते हैं। यह मायने रखता है क्योंकि यह एक वास्तविक वैश्विक मानक स्थापित करता है जिसका यूरोपीय संघ में एआई बेचने वाली किसी भी कंपनी को पालन करना होगा।

ईयू एआई अधिनियम क्षमता, शक्ति और सार्वजनिक पसंद के चौराहे पर बैठता है - जहां सुरक्षा, शासन और वैधता तय करती है कि उन्नत एआई मदद करता है या बड़े पैमाने पर नुकसान पहुंचाता है।

गहरा गोता

2024 में अपनाया गया, EU AI अधिनियम जोखिम-आधारित दृष्टिकोण अपनाता है। यह कुछ हद तक 'अस्वीकार्य जोखिम' प्रथाओं पर प्रतिबंध लगाता है, जैसे कि सरकारी सामाजिक स्कोरिंग, जोड़-तोड़ करने वाली अचेतन तकनीक और पहचान डेटाबेस बनाने के लिए चेहरों की अलक्षित स्क्रैपिंग। 'उच्च-जोखिम' प्रणाली, जैसे कि नियुक्ति, क्रेडिट स्कोरिंग, चिकित्सा उपकरणों या महत्वपूर्ण बुनियादी ढांचे में उपयोग की जाने वाली एआई को सख्त दायित्वों का सामना करना पड़ता है: बाजार में प्रवेश से पहले जोखिम प्रबंधन, उच्च गुणवत्ता वाले डेटा, मानव निरीक्षण, लॉगिंग और अनुरूपता आकलन। चैटबॉट्स जैसे 'सीमित जोखिम वाले' टूल को बस यह बताना होगा कि उपयोगकर्ता एआई के साथ बातचीत कर रहे हैं। बड़े भाषा मॉडल सहित सामान्य-उद्देश्य वाले एआई मॉडल, सबसे सक्षम 'प्रणालीगत जोखिम' मॉडल के लिए अतिरिक्त जांच के साथ, अपने स्वयं के पारदर्शिता और दस्तावेज़ीकरण कर्तव्यों को निभाते हैं। जुर्माना 35 मिलियन यूरो या वैश्विक कारोबार का 7 प्रतिशत तक पहुँच जाता है।

तकनीकी अंतर्दृष्टि

अधिनियम उपयोग के मामले द्वारा नियंत्रित करता है, एल्गोरिथम द्वारा नहीं। संदर्भ के आधार पर एक ही मॉडल एक उत्पाद में कम जोखिम वाला और दूसरे में उच्च जोखिम वाला हो सकता है। उच्च जोखिम वाले प्रदाताओं को तकनीकी दस्तावेज बनाए रखना चाहिए, पता लगाने की क्षमता के लिए स्वचालित ईवेंट लॉग रखना चाहिए, यह सुनिश्चित करना चाहिए कि पूर्वाग्रह को सीमित करने के लिए डेटासेट प्रासंगिक और प्रतिनिधि हों, और सार्थक मानवीय निरीक्षण का निर्माण करना चाहिए। सामान्य-उद्देश्य वाले मॉडल के लिए, प्रदाता प्रशिक्षण-डेटा सारांश प्रकाशित करते हैं और, एक गणना सीमा (10^25 एफएलओपी) से ऊपर, मॉडल मूल्यांकन और प्रतिकूल परीक्षण करते हैं।

ईयू एआई अधिनियम में महारत हासिल करना

गहरी समझ बनाने के लिए, ईयू एआई अधिनियम को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि एक विशेषता के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।

व्यवहार में, ईयू एआई अधिनियम का उपयोग करने वाली मजबूत टीमें शासन, सुरक्षा और स्पष्ट जवाबदेही संरचनाओं के साथ क्षमता वृद्धि को जोड़ती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। साथ ही, अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।

सामरिक प्रभाव

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।

विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।

सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।

स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

ईयू एआई अधिनियम का भविष्य

अधिनियम कई वर्षों में चरणबद्ध होता है: निषिद्ध-प्रथा प्रतिबंध पहली बार 2025 की शुरुआत में लागू किए गए, सामान्य-उद्देश्य मॉडल नियमों का पालन किया गया, और 2026 से 2027 तक सबसे अधिक जोखिम वाले दायित्व लागू किए गए। CEN-CENELEC से सामंजस्यपूर्ण तकनीकी मानकों की अपेक्षा करें ताकि यह परिभाषित किया जा सके कि अनुपालन कैसे मापा जाता है, साथ ही स्टार्टअप के लिए नियामक सैंडबॉक्स भी। इससे पहले जीडीपीआर की तरह, यह अधिनियम संभवतः दुनिया भर में एआई कानूनों को आकार देगा क्योंकि अन्य न्यायक्षेत्र इसकी जोखिम-स्तरीय संरचना को उधार लेते हैं, यहां तक ​​​​कि आलोचक इस बात पर बहस करते हैं कि क्या यह यूरोपीय नवाचार को धीमा कर देता है।

वास्तविक विश्व कार्यान्वयन

एआई क्रेडिट-स्कोरिंग टूल तैनात करने वाले बैंक को अपने प्रशिक्षण डेटा का दस्तावेजीकरण करना होगा, पूर्वाग्रह के लिए परीक्षण करना होगा और मनुष्यों को स्वचालित ऋण अस्वीकृति की समीक्षा करने और ओवरराइड करने में सक्षम रखना होगा।

मेडिकल स्कैन को ट्राइएज करने के लिए एआई का उपयोग करने वाले अस्पताल को एक अनुरूपता मूल्यांकन पास करना होगा और नैदानिक ​​​​उपयोग से पहले ईयू डेटाबेस में उच्च जोखिम प्रणाली को पंजीकृत करना होगा।

सीमित जोखिम पारदर्शिता नियम के तहत एक ग्राहक-सेवा चैटबॉट को उपयोगकर्ताओं को स्पष्ट रूप से बताना होगा कि वे किसी मानव एजेंट से नहीं बल्कि एआई से बात कर रहे हैं।

गणना सीमा से ऊपर एक बड़े भाषा मॉडल के निर्माता को प्रतिकूल रेड-टीम परीक्षण चलाना होगा और गंभीर घटनाओं की रिपोर्ट ईयू एआई कार्यालय को देनी होगी।

कार्यान्वयन पैटर्न

ईयू एआई अधिनियम व्यवहार में

एआई क्रेडिट-स्कोरिंग टूल तैनात करने वाले बैंक को अपने प्रशिक्षण डेटा का दस्तावेजीकरण करना होगा, पूर्वाग्रह के लिए परीक्षण करना होगा और मनुष्यों को स्वचालित ऋण अस्वीकृति की समीक्षा करने और ओवरराइड करने में सक्षम रखना होगा।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

ईयू एआई अधिनियम व्यवहार में

मेडिकल स्कैन को ट्राइएज करने के लिए एआई का उपयोग करने वाले अस्पताल को एक अनुरूपता मूल्यांकन पास करना होगा और नैदानिक ​​​​उपयोग से पहले ईयू डेटाबेस में उच्च जोखिम प्रणाली को पंजीकृत करना होगा।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

ईयू एआई अधिनियम व्यवहार में

सीमित जोखिम पारदर्शिता नियम के तहत एक ग्राहक-सेवा चैटबॉट को उपयोगकर्ताओं को स्पष्ट रूप से बताना होगा कि वे किसी मानव एजेंट से नहीं बल्कि एआई से बात कर रहे हैं।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

ईयू एआई अधिनियम व्यवहार में

गणना सीमा से ऊपर एक बड़े भाषा मॉडल के निर्माता को प्रतिकूल रेड-टीम परीक्षण चलाना होगा और गंभीर घटनाओं की रिपोर्ट ईयू एआई कार्यालय को देनी होगी।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

जोखिम और रेलिंग

!

अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।

!

उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।

!

गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।

कार्यान्वयन रोडमैप

1

उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

2

पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

3

विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

4

एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

अन्वेषण करते रहें

Check your understanding

Test yourself: take the EU AI Act quiz

Start quiz