चीन की शीर्ष अदालत एआई डीपफेक और मतिभ्रम के लिए दायित्व नियम निर्धारित करती है

क्या हुआ?

स्टार्टअप फॉर्च्यून की रिपोर्ट है कि चीन के सुप्रीम पीपुल्स कोर्ट ने 7 सितंबर को एआई-जनरेटेड सामग्री और एल्गोरिदमिक निर्णयों से जुड़े नागरिक विवादों को कवर करते हुए 24 प्रावधान जारी किए। रिपोर्ट किया गया ढांचा रचनाकारों, प्लेटफार्मों और उपयोगकर्ताओं को जिम्मेदारी सौंप सकता है, जिसमें चिह्नित हानिकारक सामग्री के ऑनलाइन रहने की स्थिति भी शामिल है।

स्टार्टअप फॉर्च्यून की रिपोर्ट है कि सुप्रीम पीपुल्स कोर्ट ने 7 सितंबर को कृत्रिम-बुद्धिमत्ता विवादों पर अपना पहला राष्ट्रव्यापी न्यायिक दिशानिर्देश जारी किया। रिपोर्ट के अनुसार, नियम एआई डीपफेक, क्लोन आवाज और चेहरे, चैटबॉट मतिभ्रम, अपमानजनक झूठ और एल्गोरिदमिक मूल्य भेदभाव को संबोधित करते हैं। रिपोर्ट में कहा गया है कि जो लोग हानिकारक नकली चीजें बनाते हैं, जो प्लेटफॉर्म उन्हें होस्ट करते हैं और जो उपयोगकर्ता जानबूझकर उन्हें प्रेरित करते हैं, उनमें से प्रत्येक को प्रासंगिक परिस्थितियों में दायित्व का सामना करना पड़ सकता है।

रिपोर्ट में कहा गया है कि एक प्रदाता प्रत्येक मतिभ्रम के लिए स्वचालित रूप से उत्तरदायी नहीं है, लेकिन गलत और हानिकारक आउटपुट की सूचना प्राप्त करने और कार्रवाई करने में विफल रहने के बाद जिम्मेदारी साझा कर सकता है। इसमें यह भी कहा गया है कि जानबूझकर किसी मॉडल को अपमानजनक या मनगढ़ंत सामग्री उत्पन्न करने के लिए प्रेरित करना किसी उपयोगकर्ता को जिम्मेदारी से नहीं बचाएगा। स्टार्टअप फॉर्च्यून एक रिपोर्ट किए गए मामले का हवाला देता है जिसमें एक वित्त कर्मचारी को फर्जी वीडियो कॉल के बाद 1.86 मिलियन युआन स्थानांतरित करने में धोखा दिया गया था, और एक अलग हांगकांग पुलिस खाते में लगभग 26 मिलियन डॉलर का नुकसान हुआ था। उन उदाहरणों और कानूनी व्याख्या की यहां स्वतंत्र रूप से पुष्टि नहीं की गई है। इन न्यायिक दिशानिर्देशों पर कोई पहुंच प्रक्रिया या मूल्य निर्धारण लागू नहीं होता है, और स्रोत अदालत का पूरा पाठ प्रदान नहीं करता है।

स्रोत विवरण: startupfortune.com ↗

यह क्यों मायने रखता है?

रिपोर्ट किए गए दिशानिर्देश चीनी अदालतों को जिम्मेदारी सौंपने के लिए अधिक विशिष्ट आधार दे सकते हैं जब जेनरेटर एआई प्रतिष्ठित, वित्तीय या उपभोक्ता को नुकसान पहुंचाता है। उनका महत्व आधिकारिक पाठ, न्यायिक व्याख्या और स्थानीय अदालतों में प्रवर्तन पर निर्भर करता है, जिनमें से कोई भी स्टार्टअप फॉर्च्यून की रिपोर्ट स्वतंत्र रूप से स्थापित नहीं करती है।

यदि सही ढंग से रिपोर्ट की गई, तो ढांचा चीन में प्लेटफ़ॉर्म प्रतिक्रिया प्रक्रियाओं को एआई जोखिम प्रबंधन का हिस्सा बना देगा। उपभोक्ता-केंद्रित जेनेरिक एआई सेवाओं का संचालन करने वाली कंपनियों को चिह्नित डीपफेक या हानिकारक मतिभ्रम की पहचान करने, समीक्षा करने और हटाने की आवश्यकता हो सकती है, जबकि उपयोगकर्ताओं को जानबूझकर भ्रामक या अपमानजनक सामग्री की मांग करने के जोखिम का सामना करना पड़ सकता है। इससे उत्पाद मॉडरेशन, साक्ष्य संरक्षण और शिकायत प्रबंधन प्रभावित हो सकता है।

व्यावहारिक महत्व को बढ़ा-चढ़ाकर नहीं बताया जाना चाहिए। यूरोपीय संघ और संयुक्त राज्य अमेरिका के साथ स्टार्टअप फॉर्च्यून की तुलना आउटलेट की विशेषता है, न कि स्वतंत्र रूप से स्थापित वैश्विक कानूनी रैंकिंग। रिपोर्ट यह स्थापित नहीं करती है कि प्रावधान मौजूदा चीनी कानून के साथ कैसे परस्पर क्रिया करते हैं, नुकसान की गणना कैसे की जाएगी, या क्या अदालतें लगातार मानकों को लागू करेंगी।

आगे क्या देखना है

अदालत की पूर्ण प्रकाशित राय, इसे लागू करने वाले शुरुआती मामले और प्लेटफ़ॉर्म नोटिस-और-कार्रवाई प्रक्रियाओं को कैसे लागू करते हैं, यह नियमों की व्यावहारिक पहुंच निर्धारित करेगा। यह स्पष्ट नहीं है कि क्या ढांचा मौजूदा चीनी नागरिक, उपभोक्ता-संरक्षण और प्लेटफ़ॉर्म दायित्वों से परे नई देनदारी बनाता है।

पहली प्राथमिकता सुप्रीम पीपुल्स कोर्ट के आधिकारिक प्रकाशन और आधिकारिक चीनी कानूनी टिप्पणी के खिलाफ सत्यापन है। मुख्य प्रश्नों में डीपफेक, मतिभ्रम, नोटिस, इरादे और प्लेटफ़ॉर्म जिम्मेदारी की सटीक परिभाषाएँ शामिल हैं, साथ ही क्या प्रावधान बाध्यकारी नियम, न्यायिक मार्गदर्शन या व्याख्यात्मक सिद्धांत हैं।

भविष्य के मामले दिखाएंगे कि क्या दायित्व मॉडल प्रदाताओं, होस्टिंग प्लेटफार्मों, सामग्री निर्माताओं या विभिन्न संयोजनों में संकेत देने वाले उपयोगकर्ताओं से जुड़ा है। आवाज़ और चेहरे की क्लोनिंग, धोखाधड़ी, मानहानि और वैयक्तिकृत मूल्य निर्धारण से जुड़े प्रवर्तन पर नज़र रखें, साथ ही पीड़ितों के लिए प्रतिक्रिया समय और उपचार के बारे में सबूत भी दें। स्टार्टअप फॉर्च्यून की रिपोर्ट कार्यान्वयन की तारीखें, दंड या अपील प्रक्रिया स्थापित नहीं करती है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी