बीबीसी ने ताइवान में वृद्ध दर्शकों के बीच फैल रहे एआई-जनित नकली-डॉक्टर वीडियो की रिपोर्ट दी है

क्या हुआ?

बीबीसी न्यूज़ चाइनीज़ की रिपोर्ट है कि काल्पनिक चिकित्सा विशेषज्ञों की विशेषता वाले एआई-जनित वीडियो ताइवान में पुराने दर्शकों के बीच प्रसारित हो रहे हैं। रिपोर्ट में एक ताइपे कक्षा का वर्णन किया गया है जहां वरिष्ठ नागरिकों ने एक कथित डॉक्टर द्वारा प्रस्तुत वीडियो की जांच करने के लिए Gemini और ChatGPT का उपयोग किया। शोधकर्ताओं और शिक्षकों ने बीबीसी को बताया कि वीडियो सस्ते और बड़े पैमाने पर तैयार किए जाते हैं, जिसमें अक्सर सिंथेटिक चेहरे, आवाज़ और एआई-इकट्ठी की गई जानकारी शामिल होती है। बीबीसी ने यह भी पाया कि कई चैनलों के संचालक सार्वजनिक रूप से पहचाने जाने योग्य नहीं हैं। चुनाव संबंधी हेरफेर के दावे असत्यापित हैं।

बीबीसी न्यूज़ चीनी ने ताइपे के एक वरिष्ठ डे-केयर सेंटर से रिपोर्ट की, जहाँ लगभग 60 से 90 वर्ष की आयु के लोगों ने फोन का उपयोग करना और एआई-जनित वीडियो का आकलन करना सीखा। लेख एक क्लिप पर केंद्रित है जिसमें झेंग नामक एक कथित डॉक्टर सफेद कोट और स्टेथोस्कोप पहने हुए है, जो सरकोपेनिया पर चर्चा कर रहा है और दावा कर रहा है कि 60 साल की उम्र के बाद प्रोटीन खाद्य पदार्थ काम नहीं करते हैं। एक प्रतिभागी ने इसे प्राप्त किया था और इसे अग्रेषित किया था। कक्षा में, उन्होंने Gemini और ChatGPT पूछा; सहायकों ने कथित तौर पर कहा कि डॉक्टर मौजूद नहीं था और वीडियो और स्वास्थ्य जानकारी एआई द्वारा तैयार या इकट्ठी की गई थी। बीबीसी स्वतंत्र रूप से नैदानिक ​​मूल्यांकन प्रदान नहीं करता है या सहायकों की सटीकता स्थापित नहीं करता है।

कक्षा शिक्षक, ली ज़ि-कियांग ने बीबीसी को बताया कि पिछले वर्ष में एआई-जनित वीडियो ताइवान के वरिष्ठ नागरिकों के समुदायों और मैसेजिंग समूहों में व्यापक रूप से प्रसारित हुए हैं। वीडियो में आभासी प्रस्तुतकर्ताओं का उपयोग किया गया है जो डॉक्टर, सेवानिवृत्त रेलवे कर्मचारी या पूर्व फ्लाइट अटेंडेंट होने का दावा करते हैं। ताइवान फैक्टचेक सेंटर ने बीबीसी को बताया कि कंटेंट-फ़ार्म YouTube चैनलों ने स्वास्थ्य, वरिष्ठ लाभ और परिवहन छूट के बारे में झूठे दावे पेश किए। उदाहरणों में मनगढ़ंत दावे शामिल हैं कि वृद्ध यात्रियों को स्वचालित रूप से हाई-स्पीड-रेल बिजनेस-क्लास अपग्रेड, साथियों के लिए मुफ्त टिकट, नकद उपहार या मुफ्त अस्पताल देखभालकर्ता प्राप्त हो सकते हैं। ताइवान के रेल ऑपरेटरों ने बार-बार कहा है कि कथित वरिष्ठ लाभ और छिपी हुई छूट मौजूद नहीं हैं।

ताइवान के साइबर सुरक्षा शोधकर्ता दाई यू-चेन ने बीबीसी को बताया कि उन्होंने 200 से अधिक YouTube चैनलों को ट्रैक किया है, जिनमें कुल मिलाकर 1.32 बिलियन व्यूज के साथ 70,000 से अधिक वीडियो हैं। उन्होंने अनुमान लगाया कि वर्तमान उपकरणों का उपयोग करके लगभग 20 सेकंड में एक वीडियो बनाया जा सकता है: एआई एक डॉक्टर या विशेषज्ञ का चेहरा और पृष्ठभूमि बना सकता है, एक ऑडियो फ़ाइल को मुंह में सिंक्रनाइज़ कर सकता है, ऑनलाइन सामग्री से जानकारी इकट्ठा कर सकता है और उपशीर्षक जोड़ सकता है। ये आंकड़े और अनुमान बीबीसी द्वारा रिपोर्ट किए गए शोधकर्ता के दावे हैं; स्रोत चैनल सूची, दृश्य संख्या या वर्कफ़्लो के स्वतंत्र ऑडिट का वर्णन नहीं करता है।

बीबीसी का कहना है कि उसने 20 उच्च-सब्सक्राइबर चैनलों की जांच की और पाया कि उनके ऑपरेटरों ने कोई उपयोगी पहचान संबंधी जानकारी नहीं दी। कथित तौर पर स्थानों में ताइवान, संयुक्त राज्य अमेरिका, मलेशिया और हांगकांग शामिल थे, और कुछ चैनलों को प्लेटफ़ॉर्म नियमों का उल्लंघन करने के कारण हटा दिया गया था। एक अनाम ताइवानी राष्ट्रीय-सुरक्षा सूत्र ने आरोप लगाया कि चुनाव अवधि के दौरान कुछ स्वास्थ्य और जीवन शैली चैनल राजनीतिक वकालत में बदल गए। आरोप की स्वतंत्र रूप से पुष्टि नहीं की गई है और यह एक समन्वित ऑपरेशन स्थापित नहीं करता है। चीन के ताइवान मामलों के कार्यालय ने बार-बार इन आरोपों से इनकार किया है कि चीन ताइवान के खिलाफ प्रभावशाली अभियान चलाता है और ताइवान की सरकार पर जनता की राय में हेरफेर करने का आरोप लगाया है।

स्रोत विवरण: bbc.com ↗

यह क्यों मायने रखता है?

वीडियो झूठे स्वास्थ्य, कल्याण और परिवहन दावों को आधिकारिक दिखा सकते हैं, और बीबीसी की रिपोर्ट है कि कुछ दर्शकों ने उन दावों पर कार्रवाई की। सामग्री विश्वसनीय सामाजिक रिश्तों का भी फायदा उठाती है: पुराने दर्शक जानकारी या सहयोग के लिए लंबे वीडियो देख सकते हैं और फिर उन्हें दोस्तों को भेज सकते हैं। ताइवानी साइबर सुरक्षा शोधकर्ता द्वारा वर्णित पैमाने से पता चलता है कि सिंथेटिक गलत सूचना रोजमर्रा के सूचना वातावरण का लगातार हिस्सा बन सकती है। रिपोर्ट यह स्थापित नहीं करती है कि चैनल एक समन्वित राजनीतिक अभियान का हिस्सा हैं, लेकिन यह दस्तावेज है कि उस संभावना पर ध्यान क्यों दिया जा रहा है।

तात्कालिक चिंता यह नहीं है कि प्रत्येक सिंथेटिक वीडियो मापने योग्य नुकसान का कारण बनता है, बल्कि यह है कि झूठे दावे प्राधिकरण के परिचित संकेतों के माध्यम से प्रस्तुत किए जाते हैं। बीबीसी की रिपोर्ट है कि एक कक्षा के प्रतिभागी ने हाई-स्पीड-रेलवे स्टेशन की यात्रा की क्योंकि एक वीडियो में लाभ का वादा किया गया था जो पूरा नहीं हुआ। लेख में डॉक्टर के झूठे वीडियो के कारण हुई किसी भी चिकित्सीय चोट के बारे में नहीं बताया गया है, लेकिन स्वास्थ्य संबंधी गलत जानकारी लक्षणों, उपचार या आहार के बारे में विकल्पों को प्रभावित कर सकती है। एक आधिकारिक दिखने वाला प्रस्तुतकर्ता और वृद्ध लोगों की चिंताओं के अनुरूप जानकारी सामग्री को स्पष्ट व्यंग्य के रूप में खारिज करना कठिन बना देती है।

अग्रेषित करना केवल सूचना-साझाकरण नहीं है। 86 वर्षीय एक प्रतिभागी ने बीबीसी को बताया कि उसने दोस्तों की सामग्री पर भरोसा किया था और उसे अग्रेषित किया था और अब यह जानने के बाद कि कुछ वीडियो एआई-जनरेटेड थे, ठगा हुआ महसूस कर रही थी। एक अन्य प्रतिभागी, जो कम से कम 50 दोस्तों को अग्रेषित करने से पहले वीडियो देखने और क्रमबद्ध करने में प्रतिदिन कई घंटे बिताता है, ने साझा करने को सामाजिक संबंध बनाए रखने का एक तरीका बताया। ताइपे के एक मनोचिकित्सक ने बीबीसी को बताया कि स्वास्थ्य वीडियो स्पष्ट रूप से कार्रवाई योग्य समाधान पेश करके उम्र बढ़ने के बारे में चिंता का जवाब दे सकते हैं, जबकि अग्रेषित करने से साहचर्य और उपयोगी होने की भावना मिल सकती है।

पैमाना समस्या को बदल देता है। यदि शोधकर्ता का अनुमान सटीक है, तो कम संख्या में चैनल बहुत कम लागत पर बड़ी मात्रा में विश्वसनीय दिखने वाली सामग्री का उत्पादन और वितरण कर सकते हैं। बीबीसी स्वास्थ्य, सेवानिवृत्ति, विज्ञान, धर्म और कल्याण सहित विषयों पर रिपोर्ट करता है, ये विषय वृद्ध दर्शकों की दैनिक आवश्यकताओं से निकटता से जुड़े हुए हैं। YouTube की मूल कंपनी, Google ने बीबीसी को बताया कि उसके नियम AI-जनित सामग्री पर लागू होते हैं और चिकित्सा संबंधी गलत सूचनाओं पर रोक लगाते हैं जो वास्तविक दुनिया को गंभीर नुकसान पहुंचा सकती हैं। रिपोर्ट में कहा गया है कि कई पुराने दर्शक वीडियो से जुड़े एआई लेबल पर ध्यान नहीं देते हैं।

राजनीतिक निहितार्थ महत्वपूर्ण हैं लेकिन अनसुलझे हैं। एक चैनल द्वारा राजनीतिक दावे पेश करने से पहले एक सिंथेटिक डॉक्टर या सेवानिवृत्त कर्मचारी गैर-राजनीतिक विषयों पर विश्वसनीयता बना सकता है। बीबीसी ने राजनीतिक संदेशों के मिश्रण से पहले ताइवानी दर्शकों को आकर्षित करने वाले जीवनशैली और स्वास्थ्य पृष्ठों के बारे में 2024 के एक अध्ययन का हवाला दिया है, लेकिन यह पृष्ठभूमि यह साबित नहीं करती है कि यहां चैनल समन्वित हैं। एक डिजिटल-साक्षरता विशेषज्ञ ने बीबीसी को बताया कि दुर्भावनापूर्ण समन्वय के बिना भी, वीडियो एआई स्लोप के रूप में कार्य कर सकते हैं: कम मूल्य वाली या झूठी सामग्री जो ध्यान खींचती है और विश्वसनीय जानकारी ढूंढना कठिन बना देती है। वह प्रलेखित सूचना-गुणवत्ता समस्या विदेशी राजनीतिक नियंत्रण के अप्रमाणित आरोप से अलग है।

आगे क्या देखना है

मुख्य प्रश्न यह हैं कि क्या प्लेटफ़ॉर्म उच्च-मात्रा वाली सिंथेटिक गलत सूचनाओं की पहचान कर सकते हैं और उन्हें सीमित कर सकते हैं, क्या लेबल पुराने दर्शकों के लिए दृश्यमान और प्रभावी हैं, और क्या स्वतंत्र जांचकर्ता बीबीसी को बताए गए चैनलों, दृश्यों की संख्या और उत्पादन विधियों को सत्यापित कर सकते हैं। चुनाव-अवधि की निगरानी के लिए अकेले गुमनाम आरोपों के बजाय समन्वय, स्वामित्व, फंडिंग और सामग्री में बदलाव के बारे में सबूत की आवश्यकता होगी। सार्वजनिक-स्वास्थ्य पेशेवरों और मीडिया-साक्षरता शिक्षकों को यह आकलन करने की भी आवश्यकता होगी कि लोग एआई सहायक को अंतिम प्राधिकारी के रूप में माने बिना चिकित्सा दावों को कैसे सत्यापित कर सकते हैं।

स्वतंत्र सत्यापन को पहले बुनियादी अनुभवजन्य दावों पर ध्यान केंद्रित करना चाहिए। जांचकर्ताओं को चैनलों की सूची, नमूनाकरण विधियों, तिथियों, दृश्य-गणना गणना और यह निर्धारित करने के लिए मानदंड प्रकाशित करने या दस्तावेज करने की आवश्यकता होगी कि कोई वीडियो एआई द्वारा तैयार किया गया था या नहीं। बीबीसी एक शोधकर्ता के अनुमान और 20 चैनलों की अपनी समीक्षा की रिपोर्ट करता है, लेकिन अंतर्निहित डेटासेट प्रदान नहीं करता है। यह यह भी स्थापित नहीं करता है कि कितने दर्शकों ने चिकित्सा दावों पर कार्रवाई की, कितनी बार प्लेटफ़ॉर्म सिस्टम द्वारा झूठे वीडियो की सिफारिश की जाती है या एक सामान्य ऑपरेटर से कितनी सामग्री आती है।

प्लेटफ़ॉर्म प्रवर्तन एक और व्यावहारिक परीक्षण है। Google ने कहा कि एआई-जनरेटेड वीडियो पर भी यही नियम लागू होते हैं और गंभीर चिकित्सा गलत सूचना निषिद्ध है, जबकि बीबीसी की रिपोर्ट है कि कुछ चैनलों को हटा दिया गया है। अज्ञात में यह शामिल है कि लगातार लेबल कैसे प्रदर्शित किए जाते हैं, क्या सिंथेटिक वीडियो का विमुद्रीकरण किया जाता है, अनुशंसा प्रणालियाँ उनके साथ कैसे व्यवहार करती हैं और क्या एक चैनल को हटाने से अन्य द्वारा तेजी से प्रतिस्थापन होता है। वे प्रश्न मायने रखते हैं क्योंकि शोधकर्ता ने समान बॉट-अकाउंट प्रोफाइल वाले चैनलों के एक नेटवर्क का वर्णन किया है, लेकिन स्रोत स्वतंत्र रूप से यह स्थापित नहीं करता है कि कोई संगठन उन्हें नियंत्रित करता है।

चुनाव-अवधि की निगरानी को अवलोकन योग्य सामग्री परिवर्तनों को अटकलों से अलग करना चाहिए। बीबीसी द्वारा उद्धृत गुमनाम राष्ट्रीय-सुरक्षा स्रोत की स्वतंत्र रूप से पुष्टि नहीं की गई है, इसलिए इसे सबूत के रूप में इस्तेमाल नहीं किया जाना चाहिए कि चैनल किसी विशेष राजनीतिक संदेश की ओर बढ़ गए हैं। मजबूत सबूतों में पारदर्शी स्वामित्व लिंक, बार-बार क्रॉस-चैनल समन्वय, सामान्य उत्पादन संपत्ति, फंडिंग रिकॉर्ड या वितरण और संदेश में दस्तावेजी परिवर्तन शामिल होंगे। बीबीसी की रिपोर्ट है कि कुछ चैनलों ने चर्चा शुरू कर दी है कि क्या चीन के साथ एकीकरण बेहतर है, लेकिन उस सामग्री का पैमाना, उत्पत्ति और समन्वय अज्ञात है।

ताइपे कक्षा एक ठोस प्रतिक्रिया प्रदान करती है: दर्शक पाठ में परिचित वीडियो लाते हैं, उनके दावों पर सवाल उठाते हैं और जो वे पहले से जानते हैं उससे परिणामों की तुलना करते हैं। वह दृष्टिकोण संदेह में सुधार कर सकता है, लेकिन बीबीसी यह स्थापित नहीं करता है कि Gemini या ChatGPT किसी वीडियो को विश्वसनीय रूप से प्रमाणित कर सकता है या चिकित्सा सलाह को मान्य कर सकता है। भविष्य के कवरेज को यह ट्रैक करना चाहिए कि क्या ऐसी कक्षाएं अग्रेषण व्यवहार को बदलती हैं, क्या प्रतिभागी आधिकारिक चिकित्सा या सरकारी स्रोतों से परामर्श लेते हैं और शिक्षक इस जोखिम को कैसे संबोधित करते हैं कि एक अपूर्ण एआई प्रणाली का उपयोग दूसरे की जांच करने के लिए किया जाता है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी