सिंहावलोकन
ईयू एआई अधिनियम कृत्रिम बुद्धिमत्ता को विनियमित करने वाला दुनिया का पहला व्यापक कानून है, जो एआई सिस्टम को जोखिम स्तरों में ऐसे नियमों के साथ क्रमबद्ध करता है जो खतरा बढ़ने पर बढ़ते हैं। यह मायने रखता है क्योंकि यह एक वास्तविक वैश्विक मानक स्थापित करता है जिसका यूरोपीय संघ में एआई बेचने वाली किसी भी कंपनी को पालन करना होगा।
ईयू एआई अधिनियम एआई की सामाजिक और शासन परत से संबंधित है, जहां नीति, जवाबदेही और सार्वजनिक विश्वास दीर्घकालिक प्रभाव को आकार देते हैं।
गहरा गोता
2024 में अपनाया गया, EU AI अधिनियम जोखिम-आधारित दृष्टिकोण अपनाता है। यह कुछ हद तक 'अस्वीकार्य जोखिम' प्रथाओं पर प्रतिबंध लगाता है, जैसे कि सरकारी सामाजिक स्कोरिंग, जोड़-तोड़ करने वाली अचेतन तकनीक और पहचान डेटाबेस बनाने के लिए चेहरों की अलक्षित स्क्रैपिंग। 'उच्च-जोखिम' प्रणाली, जैसे कि नियुक्ति, क्रेडिट स्कोरिंग, चिकित्सा उपकरणों या महत्वपूर्ण बुनियादी ढांचे में उपयोग की जाने वाली एआई को सख्त दायित्वों का सामना करना पड़ता है: बाजार में प्रवेश से पहले जोखिम प्रबंधन, उच्च गुणवत्ता वाले डेटा, मानव निरीक्षण, लॉगिंग और अनुरूपता आकलन। चैटबॉट्स जैसे 'सीमित जोखिम वाले' टूल को बस यह बताना होगा कि उपयोगकर्ता एआई के साथ बातचीत कर रहे हैं। बड़े भाषा मॉडल सहित सामान्य-उद्देश्य वाले एआई मॉडल, सबसे सक्षम 'प्रणालीगत जोखिम' मॉडल के लिए अतिरिक्त जांच के साथ, अपने स्वयं के पारदर्शिता और दस्तावेज़ीकरण कर्तव्यों को निभाते हैं। जुर्माना 35 मिलियन यूरो या वैश्विक कारोबार का 7 प्रतिशत तक पहुँच जाता है।
तकनीकी अंतर्दृष्टि
अधिनियम उपयोग के मामले द्वारा नियंत्रित करता है, एल्गोरिथम द्वारा नहीं। संदर्भ के आधार पर एक ही मॉडल एक उत्पाद में कम जोखिम वाला और दूसरे में उच्च जोखिम वाला हो सकता है। उच्च जोखिम वाले प्रदाताओं को तकनीकी दस्तावेज बनाए रखना चाहिए, पता लगाने की क्षमता के लिए स्वचालित ईवेंट लॉग रखना चाहिए, यह सुनिश्चित करना चाहिए कि पूर्वाग्रह को सीमित करने के लिए डेटासेट प्रासंगिक और प्रतिनिधि हों, और सार्थक मानवीय निरीक्षण का निर्माण करना चाहिए। सामान्य-उद्देश्य वाले मॉडल के लिए, प्रदाता प्रशिक्षण-डेटा सारांश प्रकाशित करते हैं और, एक गणना सीमा (10^25 एफएलओपी) से ऊपर, मॉडल मूल्यांकन और प्रतिकूल परीक्षण करते हैं।
ईयू एआई अधिनियम में महारत हासिल करना
ईयू एआई अधिनियम कृत्रिम बुद्धिमत्ता को विनियमित करने वाला दुनिया का पहला व्यापक कानून है, जो एआई सिस्टम को जोखिम स्तरों में ऐसे नियमों के साथ क्रमबद्ध करता है जो खतरा बढ़ने पर बढ़ते हैं। यह मायने रखता है क्योंकि यह एक वास्तविक वैश्विक मानक स्थापित करता है जिसका यूरोपीय संघ में एआई बेचने वाली किसी भी कंपनी को पालन करना होगा। ईयू एआई अधिनियम एआई की सामाजिक और शासन परत से संबंधित है, जहां नीति, जवाबदेही और सार्वजनिक विश्वास दीर्घकालिक प्रभाव को आकार देते हैं। गहरी समझ बनाने के लिए, ईयू एआई अधिनियम को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि एक विशेषता के रूप में: वांछित परिणामों को परिभाषित करें, मान्यताओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।
व्यवहार में, ईयू एआई अधिनियम का उपयोग करने वाली मजबूत टीमें शासन, सुरक्षा और स्पष्ट जवाबदेही संरचनाओं के साथ क्षमता वृद्धि को जोड़ती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।
सामाजिक निर्णय यह निर्धारित करते हैं कि किसे लाभ होगा और किसे जोखिम उठाना होगा। साथ ही, व्यापक दावे साक्ष्य और जिम्मेदार निरीक्षण की तुलना में तेजी से प्रसारित हो सकते हैं। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।
सामरिक प्रभाव
सामाजिक निर्णय यह निर्धारित करते हैं कि किसे लाभ होगा और किसे जोखिम उठाना होगा।
सामाजिक निर्णय यह निर्धारित करते हैं कि किसे लाभ होगा और किसे जोखिम उठाना होगा। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
सार्वजनिक संस्थान, स्कूल और व्यवसाय सभी स्पष्ट एआई शासन पर भरोसा करते हैं।
सार्वजनिक संस्थान, स्कूल और व्यवसाय सभी स्पष्ट एआई शासन पर भरोसा करते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
अच्छी नीति डिज़ाइन उपयोगी नवाचार को अवरुद्ध किए बिना सुरक्षा में सुधार कर सकती है।
अच्छी नीति डिज़ाइन उपयोगी नवाचार को अवरुद्ध किए बिना सुरक्षा में सुधार कर सकती है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
वास्तविक विश्व कार्यान्वयन
एआई क्रेडिट-स्कोरिंग टूल तैनात करने वाले बैंक को अपने प्रशिक्षण डेटा का दस्तावेजीकरण करना होगा, पूर्वाग्रह के लिए परीक्षण करना होगा और मनुष्यों को स्वचालित ऋण अस्वीकृति की समीक्षा करने और ओवरराइड करने में सक्षम रखना होगा।
मेडिकल स्कैन को ट्राइएज करने के लिए एआई का उपयोग करने वाले अस्पताल को एक अनुरूपता मूल्यांकन पास करना होगा और नैदानिक उपयोग से पहले ईयू डेटाबेस में उच्च जोखिम प्रणाली को पंजीकृत करना होगा।
सीमित जोखिम पारदर्शिता नियम के तहत एक ग्राहक-सेवा चैटबॉट को उपयोगकर्ताओं को स्पष्ट रूप से बताना होगा कि वे किसी मानव एजेंट से नहीं बल्कि एआई से बात कर रहे हैं।
गणना सीमा से ऊपर एक बड़े भाषा मॉडल के निर्माता को प्रतिकूल रेड-टीम परीक्षण चलाना होगा और गंभीर घटनाओं की रिपोर्ट ईयू एआई कार्यालय को देनी होगी।
कार्यान्वयन पैटर्न
ईयू एआई अधिनियम व्यवहार में
एआई क्रेडिट-स्कोरिंग टूल तैनात करने वाले बैंक को अपने प्रशिक्षण डेटा का दस्तावेजीकरण करना होगा, पूर्वाग्रह के लिए परीक्षण करना होगा और मनुष्यों को स्वचालित ऋण अस्वीकृति की समीक्षा करने और ओवरराइड करने में सक्षम रखना होगा।
एआई क्रेडिट-स्कोरिंग टूल तैनात करने वाले बैंक को अपने प्रशिक्षण डेटा का दस्तावेजीकरण करना होगा, पूर्वाग्रह के लिए परीक्षण करना होगा, और मनुष्यों को स्वचालित ऋण अस्वीकृति की समीक्षा करने और ओवरराइड करने में सक्षम रखना होगा। टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
ईयू एआई अधिनियम व्यवहार में
मेडिकल स्कैन को ट्राइएज करने के लिए एआई का उपयोग करने वाले अस्पताल को एक अनुरूपता मूल्यांकन पास करना होगा और नैदानिक उपयोग से पहले ईयू डेटाबेस में उच्च जोखिम प्रणाली को पंजीकृत करना होगा।
मेडिकल स्कैन को ट्राइएज करने के लिए एआई का उपयोग करने वाले अस्पताल को एक अनुरूपता मूल्यांकन पास करना होगा और नैदानिक उपयोग से पहले ईयू डेटाबेस में उच्च जोखिम प्रणाली को पंजीकृत करना होगा। टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
ईयू एआई अधिनियम व्यवहार में
सीमित जोखिम पारदर्शिता नियम के तहत एक ग्राहक-सेवा चैटबॉट को उपयोगकर्ताओं को स्पष्ट रूप से बताना होगा कि वे किसी मानव एजेंट से नहीं बल्कि एआई से बात कर रहे हैं।
एक ग्राहक-सेवा चैटबॉट को सीमित जोखिम पारदर्शिता नियम के तहत उपयोगकर्ताओं को स्पष्ट रूप से बताना चाहिए कि वे एआई से बात कर रहे हैं, मानव एजेंट से नहीं। टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
ईयू एआई अधिनियम व्यवहार में
गणना सीमा से ऊपर एक बड़े भाषा मॉडल के निर्माता को प्रतिकूल रेड-टीम परीक्षण चलाना होगा और गंभीर घटनाओं की रिपोर्ट ईयू एआई कार्यालय को देनी होगी।
गणना सीमा से ऊपर एक बड़े भाषा मॉडल के निर्माता को प्रतिकूल रेड-टीम परीक्षण चलाना चाहिए और ईयू एआई कार्यालय टीमों को गंभीर घटनाओं की रिपोर्ट करनी चाहिए, आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
जोखिम और रेलिंग
व्यापक दावे साक्ष्य और जिम्मेदार निरीक्षण की तुलना में तेजी से प्रसारित हो सकते हैं।
नुकसान होने पर कमजोर प्रशासन जवाबदेही में कमी छोड़ सकता है।
जब पहुंच, पारदर्शिता और जांच सीमित हो तो शक्ति केंद्रित हो सकती है।
कार्यान्वयन रोडमैप
प्रभावित हितधारकों और उन नुकसानों की पहचान करें जो सबसे अधिक मायने रखते हैं।
प्रभावित हितधारकों और उन नुकसानों की पहचान करें जो सबसे अधिक मायने रखते हैं। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
डेटा, मॉडल और निर्णयों के लिए पारदर्शिता आवश्यकताएँ निर्धारित करें।
डेटा, मॉडल और निर्णयों के लिए पारदर्शिता आवश्यकताएँ निर्धारित करें। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
उच्च जोखिम वाली प्रणालियों के लिए स्वतंत्र समीक्षा या रेड-टीम परीक्षण जोड़ें।
उच्च जोखिम वाली प्रणालियों के लिए स्वतंत्र समीक्षा या रेड-टीम परीक्षण जोड़ें। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
क्षमताएं और उपयोग पैटर्न विकसित होने पर नीति और नियंत्रण अपडेट करें।
क्षमताएं और उपयोग पैटर्न विकसित होने पर नीति और नियंत्रण अपडेट करें। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।