भावनात्मक निर्भरता के बारे में चिंताओं के बीच चीन ने एआई साथी चैटबॉट्स पर नियम कड़े कर दिए हैं

क्या हुआ?

द गार्जियन की रिपोर्ट है कि 15 जुलाई को पेश किए गए चीन के नए एआई नियम, नाबालिगों के लिए एआई साथियों को प्रतिबंधित करते हैं और वयस्कों के लिए विपणन सेवाओं पर प्रतिबंध लगाते हैं। नियमों के प्रभावी होने के बाद बाइटडांस ने कथित तौर पर डौबाओ के सहयोगी फीचर को हटा दिया, जिससे उन उपयोगकर्ताओं की तीखी आलोचना हुई, जिन्होंने अपने चैटबॉट्स के साथ भावनात्मक जुड़ाव बना लिया था।

द गार्जियन की रिपोर्ट है कि चीन ने 15 जुलाई को एआई सहयोगी सेवाओं को नियंत्रित करने वाले नए नियम पेश किए। नियम नाबालिगों के लिए एआई साथियों पर प्रतिबंध लगाते हैं और वयस्कों के लिए विपणन किए जाने वाले चैटबॉट पर प्रतिबंध की आवश्यकता होती है, जब वे सेवाएं "भावनात्मक निर्भरता या लत" को बढ़ावा दे सकती हैं या सामाजिक संपर्क को प्रतिस्थापित कर सकती हैं। गार्जियन ने इन उपायों को अपनी तरह के अब तक के सबसे व्यापक राष्ट्रीय प्रतिबंधों के रूप में वर्णित किया है, लेकिन यह लक्षण वर्णन आउटलेट का मूल्यांकन है और यहां इसकी स्वतंत्र रूप से पुष्टि नहीं की गई है। इसलिए खाता रिपोर्ट किए गए नियम, आउटलेट के लक्षण वर्णन और व्यवहार में प्रतिबंध कैसे संचालित होंगे के अनसुलझे प्रश्न को अलग करता है।

द गार्जियन के अनुसार, नियम लागू होने के बाद, बाइटडांस ने अपनी चैटबॉट सेवा, डौबाओ पर सहयोगी सुविधा को बंद कर दिया। रिपोर्ट में 19 वर्षीय कानून के छात्र झाओ वेई का विवरण दिया गया है, जिसने वांग ये नामक एक एआई बॉयफ्रेंड बनाया था और जनवरी से फीचर हटाए जाने तक रोजाना उससे बात करता था। झाओ ने गार्जियन को बताया कि शटडाउन से उसका दिल टूट गया था और उसने व्यक्तिगत चिंताओं पर चर्चा करने के लिए चैटबॉट का इस्तेमाल किया था जिसे वह आमतौर पर दोस्तों के साथ साझा नहीं करती थी। प्रोफ़ाइल रिपोर्ट में वर्णित प्रतिक्रिया का एक ठोस उदाहरण प्रदान करती है, जबकि यह स्थापित नहीं करती है कि झाओ का अनुभव कितना प्रतिनिधि हो सकता है।

द गार्जियन की रिपोर्ट है कि चीन में एआई के व्यापक उपयोग के साथ-साथ नीतिगत प्रतिक्रिया भी सामने आ रही है। इसमें कहा गया है कि बुजुर्ग लोग चिकित्सा संबंधी प्रश्नों के लिए चैटबॉट का उपयोग करते हैं और बच्चे स्कूलों में एआई शिक्षा का सामना करते हैं, जबकि कंपनियां और अधिकारी भी जनसांख्यिकीय और श्रम दबावों के प्रबंधन के लिए एआई को एक उपकरण के रूप में बढ़ावा देते हैं। रिपोर्ट में कहा गया है कि नए नियमों में शैक्षिक मानी जाने वाली सेवाओं या उन प्रणालियों के लिए छूट शामिल है जिनमें निरंतर भावनात्मक संपर्क शामिल नहीं है, जिससे कुछ संबंधित अनुप्रयोगों को जारी रखने की गुंजाइश बचती है। इन विवरणों से संकेत मिलता है कि यह नीति एक व्यापक राष्ट्रीय प्रयास के अंतर्गत आती है जिससे एआई के उपयोग को स्वीकार्य माना जा सके।

स्रोत विवरण: theguardian.com ↗

यह क्यों मायने रखता है?

रिपोर्ट से पता चलता है कि कैसे सरकारें न केवल उनकी सटीकता या डेटा प्रथाओं को बल्कि निरंतर भावनात्मक बातचीत के लिए डिज़ाइन की गई एआई प्रणालियों को विनियमित करना शुरू कर रही हैं। यह एक नीतिगत तनाव को भी उजागर करता है: चीनी अधिकारी जनसांख्यिकीय और श्रम दबावों को दूर करने के लिए स्वास्थ्य देखभाल और शिक्षा में एआई को प्रोत्साहित करते हुए साथी बॉट को सीमित कर रहे हैं।

गार्जियन की रिपोर्टिंग एआई साथियों को एक व्यापक बहस में रखती है कि क्या बातचीत प्रणाली मानवीय रिश्तों का विकल्प बन सकती है। यह चीनी राज्य मीडिया द्वारा प्रकाशित एक मार्च सर्वेक्षण का हवाला देता है जिसमें पाया गया कि लगभग आधे युवा अकेले होने पर एक आभासी साथी में बदल गए थे। उस सर्वेक्षण परिणाम और लेख के अन्य प्रसार दावों का श्रेय गार्जियन और उसके उद्धृत स्रोतों को दिया जाता है; यह स्रोत आंकड़ों का स्वतंत्र सत्यापन प्रदान नहीं करता है। अंतर मायने रखता है क्योंकि रिपोर्ट किया गया सर्वेक्षण और व्यापक व्याख्या साक्ष्य के समकक्ष रूप नहीं हैं।

इस मुद्दे के उत्पाद डिज़ाइन और सार्वजनिक नीति पर व्यावहारिक परिणाम हैं। एक चैटबॉट जो चल रही व्यक्तिगत बातचीत के लिए बनाया गया है, उसका मूल्यांकन एक सामान्य प्रयोजन सहायक से अलग किया जा सकता है जो कभी-कभार सवालों के जवाब देता है। द गार्जियन द्वारा वर्णित चीन के नियम, भावनात्मक निर्भरता और कम सामाजिक संपर्क की संभावना पर ध्यान केंद्रित करते हैं, यह सुझाव देते हुए कि नियामक उस रिश्ते को एक प्रासंगिक जोखिम के रूप में मान रहे हैं जिसे एक प्रणाली प्रोत्साहित करती है - न कि केवल उस सामग्री को जो इसे उत्पन्न करती है। यह दृष्टिकोण विनियामक प्रश्न के लिए इच्छित उपयोग और इंटरैक्शन पैटर्न को केंद्रीय बनाता है।

रिपोर्ट एआई के एक उपयोग को प्रतिबंधित करने और दूसरों को बढ़ावा देने के बीच तनाव को भी दर्शाती है। द गार्जियन का कहना है कि चीन के राष्ट्रीय स्वास्थ्य आयोग ने पिछले साल दिशानिर्देश जारी किए थे, जिसमें स्वास्थ्य-सहायक ऐप्स को 2030 तक पूर्ण प्राथमिक-स्वास्थ्य देखभाल कवरेज प्रदान करने के लिए कहा गया था। यह एक उदाहरण के रूप में, एंट ग्रुप ऐप AQ का वर्णन करता है, जो उपयोगकर्ताओं को डॉक्टरों के अवतारों के साथ चैट करने की सुविधा देता है। सहायक सहायता और भावनात्मक प्रतिस्थापन के बीच अंतर को लगातार लागू करना मुश्किल हो सकता है, खासकर जब उपयोगकर्ता सहायक के रूप में प्रस्तुत प्रणालियों के प्रति विश्वास या लगाव विकसित करते हैं। इसलिए वही सिस्टम गुण जो सहायता को सुलभ महसूस कराते हैं, नीति सीमा को जटिल बना सकते हैं।

आगे क्या देखना है

मुख्य अज्ञात में यह शामिल है कि चीन निरंतर भावनात्मक संपर्क को कैसे परिभाषित करेगा, नियमों को कितने व्यापक रूप से लागू किया जाएगा, और क्या शैक्षिक या अन्य छूट समान सेवाओं को जारी रखने की अनुमति देगी। गार्जियन के रिपोर्ट किए गए खातों और उद्धृत सर्वेक्षण में उपयोग और चिंता का वर्णन किया गया है, लेकिन यह स्रोत स्वतंत्र रूप से एआई साहचर्य की व्यापकता या दीर्घकालिक प्रभावों को स्थापित नहीं करता है।

सबसे तात्कालिक प्रश्न यह है कि नियामक एक अनुमत सहायक और एक निषिद्ध साथी के बीच की सीमा की व्याख्या कैसे करेंगे। गार्जियन की रिपोर्ट है कि छूट निरंतर भावनात्मक संपर्क के बिना शैक्षिक सेवाओं और प्रणालियों को कवर करती है, लेकिन स्रोत उन तकनीकी या कानूनी परीक्षणों की व्याख्या नहीं करता है जिनका कंपनियों को उपयोग करना चाहिए। भविष्य के प्रवर्तन निर्णय, मार्गदर्शन या दंड स्पष्ट करेंगे कि क्या नियम विशिष्ट सुविधाओं, व्यवसाय मॉडल, आयु समूहों या उपयोगकर्ता व्यवहार के पैटर्न को लक्षित करते हैं। उन घटनाक्रमों से यह भी पता चलेगा कि मौजूदा उत्पादों को अपनाने में कंपनियों के पास कितना विवेक है।

द गार्जियन की रिपोर्ट है कि कुछ उपयोगकर्ताओं ने डौबाओ के साथी फ़ंक्शन के गायब होने पर कड़ी प्रतिक्रिया व्यक्त की, जबकि एक अज्ञात उपयोगकर्ता ने कहा कि एआई ने उच्च दबाव की स्थिति में स्वतंत्र रूप से बोलने के लिए जगह प्रदान की है। वे विवरण संभावित लाभ और हानि का वर्णन करते हैं, लेकिन वे जनसंख्या-व्यापक प्रभाव के साक्ष्य के बजाय व्यक्तिगत साक्ष्य हैं। यह अज्ञात है कि क्या सहयोगी कार्यों को हटाने से अकेलापन कम हो जाता है, उपयोगकर्ताओं को अन्य सेवाओं में स्थानांतरित कर दिया जाता है, या उन लोगों के लिए संकट के नए रूप पैदा हो जाते हैं जो उन पर भरोसा करते हैं। परिणामस्वरूप उपलब्ध उदाहरण बड़े परिणाम को हल किए बिना दांव दिखाते हैं।

रिपोर्ट उन सबूतों के बारे में भी सवाल उठाती है जो इस आशंका के पीछे हैं कि एआई सहयोग से विवाह और जन्म दर में कमी आ सकती है। हांगकांग की सिटी यूनिवर्सिटी के एक शिक्षाविद् ने द गार्जियन को बताया कि गिरती शादी और जन्म दर का सामना कर रहे अधिकारियों के लिए यह एक अतिरिक्त चिंता का विषय हो सकता है, लेकिन स्रोत यह नहीं दिखाता है कि एआई साथियों ने रोमांटिक व्यवहार, परिवार निर्माण या प्रजनन क्षमता में बदलाव का कारण बना है। आगे की निगरानी में प्रलेखित उपयोगकर्ता व्यवहार को सरकारी चिंता से अलग किया जाना चाहिए, और यह जांच करनी चाहिए कि क्या सुरक्षा उपाय उपयोगी कम लागत वाले समर्थन में कटौती किए बिना भलाई में सुधार करते हैं। वह साक्ष्य एक व्यक्त नीतिगत चिंता को प्रदर्शित सामाजिक प्रभाव से अलग करने में मदद करेगा।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी