ماذا حدث
أفادت بي بي سي نيوز الصينية أن مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تضم خبراء طبيين خياليين يتم تداولها بين المشاهدين الأكبر سناً في تايوان. يصف التقرير فصلًا دراسيًا في تايبيه حيث استخدم كبار السن Gemini وChatGPT لفحص مقطع فيديو قدمه طبيب مفترض. وقال باحثون ومعلمون لبي بي سي إن مقاطع الفيديو يتم إنتاجها بتكلفة زهيدة وعلى نطاق واسع، وغالبا ما تجمع بين الوجوه الاصطناعية والأصوات والمعلومات المجمعة بواسطة الذكاء الاصطناعي. ووجدت بي بي سي أيضًا أن مشغلي العديد من القنوات لا يمكن التعرف عليهم علنًا. ولم يتم التحقق من الادعاءات المتعلقة بالتلاعب المتعلق بالانتخابات.
تقارير بي بي سي نيوز الصينية من أحد مراكز الرعاية النهارية لكبار السن في تايبيه، حيث تعلم الأشخاص الذين تتراوح أعمارهم بين 60 إلى 90 عامًا تقريبًا استخدام الهواتف وتقييم مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي. يركز المقال على مقطع يظهر طبيبًا مفترضًا يُدعى تشنغ، يرتدي معطفًا أبيض وسماعة طبية، ويناقش ضمور الأعضاء ويدعي أن الأطعمة البروتينية لم تعد فعالة بعد سن الستين. وقد استلمها أحد المشاركين وأرسلها. في الصف، سأل Gemini وChatGPT؛ وبحسب ما ورد قال المساعدون إن الطبيب غير موجود وأن الفيديو والمعلومات الصحية تم إنشاؤها أو تجميعها بواسطة الذكاء الاصطناعي. لا تقدم بي بي سي بشكل مستقل تقييمًا سريريًا أو تحدد دقة المساعدين.
وقال مدرس الفصل، لي زي تشيانغ، لبي بي سي إن مقاطع الفيديو التي أنشأها الذكاء الاصطناعي تم تداولها على نطاق واسع في مجتمعات كبار السن التايوانيين ومجموعات المراسلة خلال العام الماضي. تستخدم مقاطع الفيديو مقدمين افتراضيين يزعمون أنهم أطباء أو موظفون متقاعدون في السكك الحديدية أو مضيفات طيران سابقات. وقال مركز FactCheck التايواني لبي بي سي إن قنوات مزرعة المحتوى YouTube أنتجت ادعاءات كاذبة حول الصحة ومزايا كبار السن وخصومات النقل. تشمل الأمثلة الادعاءات الملفقة بأن الركاب الأكبر سنًا يمكن أن يحصلوا تلقائيًا على ترقيات درجة رجال الأعمال للسكك الحديدية عالية السرعة، أو تذاكر مجانية لمرافقيهم، أو هدايا نقدية أو مقدمي رعاية مجانيين في المستشفى. قال مشغلو السكك الحديدية في تايوان مرارًا وتكرارًا إن المزايا الكبيرة المزعومة والخصومات الخفية غير موجودة.
وقال داي يو تشن، الباحث التايواني في مجال الأمن السيبراني، لبي بي سي إنه تتبع أكثر من 200 قناة YouTube تحمل أكثر من 70 ألف مقطع فيديو مع إجمالي 1.32 مليار مشاهدة. وقدر أنه يمكن إنشاء مقطع فيديو في حوالي 20 ثانية باستخدام الأدوات الحالية: يمكن للذكاء الاصطناعي إنشاء وجه وخلفية طبيب أو خبير، ومزامنة ملف صوتي مع الفم، وتجميع المعلومات من المواد عبر الإنترنت وإضافة ترجمات. وهذه الأرقام والتقديرات هي ادعاءات الباحث التي نقلتها هيئة الإذاعة البريطانية (بي بي سي)؛ لا يصف المصدر تدقيقًا مستقلاً لقائمة القنوات أو عدد المشاهدات أو سير العمل.
وتقول بي بي سي إنها فحصت 20 قناة ذات عدد مشتركين مرتفعين ووجدت أن مشغليها لم يكشفوا عن أي معلومات تعريفية مفيدة. وبحسب ما ورد شملت المواقع تايوان والولايات المتحدة وماليزيا وهونج كونج، وتمت إزالة بعض القنوات لانتهاكها قواعد المنصة. زعم مصدر أمني قومي تايواني مجهول أن بعض قنوات الصحة وأسلوب الحياة تحولت إلى مناصرة سياسية خلال فترات الانتخابات. ولم يتم تأكيد هذا الادعاء بشكل مستقل ولا يثبت وجود عملية منسقة. ونفى مكتب شؤون تايوان الصيني مرارا وتكرارا المزاعم القائلة بأن الصين تجري عمليات نفوذ ضد تايوان واتهم حكومة تايوان بالتلاعب بالرأي العام.
لماذا يهم
يمكن أن تجعل مقاطع الفيديو الادعاءات الكاذبة المتعلقة بالصحة والرعاية الاجتماعية والنقل تبدو موثوقة، وتشير بي بي سي إلى أن بعض المشاهدين تصرفوا بناءً على هذه الادعاءات. وتستغل المادة أيضًا العلاقات الاجتماعية الموثوقة: فقد يشاهد المشاهدون الأكبر سنًا مقاطع فيديو طويلة للحصول على معلومات أو الرفقة ثم يرسلونها إلى الأصدقاء. يشير النطاق الذي وصفه باحث تايواني في مجال الأمن السيبراني إلى أن المعلومات الخاطئة الاصطناعية يمكن أن تصبح جزءًا ثابتًا من بيئة المعلومات اليومية. ولم يثبت التقرير أن القنوات جزء من عملية سياسية منسقة، لكنه يوثق سبب الاهتمام بهذا الاحتمال.
ولا يتمثل مصدر القلق المباشر في أن كل مقطع فيديو اصطناعي يسبب ضرراً يمكن قياسه، بل في أن الادعاءات الكاذبة يتم تقديمها من خلال إشارات مألوفة للسلطة. ذكرت هيئة الإذاعة البريطانية (بي بي سي) أن أحد المشاركين في الفصل سافر إلى محطة قطار فائق السرعة لأن مقطع فيديو وعد بفائدة لم تتحقق. لا تشير المقالة إلى أي إصابة طبية ناجمة عن فيديو الطبيب الكاذب، لكن المعلومات الصحية الخاطئة يمكن أن تؤثر على الخيارات المتعلقة بالأعراض أو العلاج أو النظام الغذائي. إن مقدم العرض ذو المظهر الموثوق والمعلومات المصممة خصيصًا لتلبية اهتمامات كبار السن تجعل من الصعب رفض المحتوى باعتباره هجاءً واضحًا.
إعادة التوجيه ليست مجرد تبادل للمعلومات. وقالت إحدى المشاركات البالغة من العمر 86 عامًا لبي بي سي إنها وثقت في المواد من الأصدقاء وأرسلتها، وشعرت الآن بالخداع بعد أن علمت أن بعض مقاطع الفيديو تم إنشاؤها بواسطة الذكاء الاصطناعي. مشارك آخر، يقضي عدة ساعات يوميًا في مشاهدة مقاطع الفيديو وفرزها قبل إرسالها إلى 50 صديقًا على الأقل، وصف المشاركة بأنها وسيلة للحفاظ على الاتصال الاجتماعي. وقال طبيب نفسي في تايبيه لبي بي سي إن مقاطع الفيديو الصحية يمكن أن تستجيب للقلق بشأن الشيخوخة من خلال تقديم حلول قابلة للتنفيذ على ما يبدو، في حين أن إعادة التوجيه يمكن أن توفر الرفقة والشعور بأنها مفيدة.
المقياس يغير المشكلة. إذا كانت تقديرات الباحث دقيقة، فيمكن لعدد صغير من القنوات إنتاج وتوزيع كميات هائلة من المواد ذات المظهر المعقول بتكلفة منخفضة للغاية. تنشر هيئة الإذاعة البريطانية (بي بي سي) موضوعات تشمل الصحة والتقاعد والعلوم والدين والرعاية الاجتماعية، وهي موضوعات ترتبط ارتباطًا وثيقًا بالاحتياجات اليومية للمشاهدين الأكبر سنًا. وقالت الشركة الأم YouTube، Google، لبي بي سي إن قواعدها تنطبق على المواد التي ينتجها الذكاء الاصطناعي وتحظر المعلومات الطبية الخاطئة التي يمكن أن تسبب أضرارا جسيمة في العالم الحقيقي. ويشير التقرير إلى أن العديد من المشاهدين الأكبر سنا لا يلاحظون تسميات الذكاء الاصطناعي المرفقة بمقاطع الفيديو.
إن التداعيات السياسية كبيرة ولكنها لم يتم حلها. يمكن للطبيب الاصطناعي أو العامل المتقاعد بناء المصداقية حول مواضيع غير سياسية قبل أن تقدم القناة ادعاءات سياسية. تستشهد بي بي سي بدراسة أجريت عام 2024 حول صفحات نمط الحياة والصحة التي تجتذب الجماهير التايوانية قبل خلط الرسائل السياسية، لكن هذه الخلفية لا تثبت أن القنوات هنا منسقة. وقال خبير في الثقافة الرقمية لبي بي سي إنه حتى بدون التنسيق الضار، يمكن أن تعمل مقاطع الفيديو كمواد منخفضة القيمة أو زائفة تستهلك الانتباه وتجعل من الصعب العثور على معلومات موثوقة. وتختلف مشكلة جودة المعلومات الموثقة عن الادعاءات غير المثبتة بالسيطرة السياسية الأجنبية.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
وتتمثل الأسئلة الرئيسية في ما إذا كانت المنصات قادرة على تحديد المعلومات الخاطئة الاصطناعية كبيرة الحجم والحد منها، وما إذا كانت التصنيفات مرئية وفعالة للمشاهدين الأكبر سنا، وما إذا كان بإمكان المحققين المستقلين التحقق من القنوات وعدد المشاهدات وطرق الإنتاج الموصوفة لبي بي سي. ستتطلب مراقبة فترة الانتخابات أدلة حول التنسيق والملكية والتمويل والتغييرات في المحتوى بدلاً من الادعاءات المجهولة وحدها. وسيحتاج متخصصو الصحة العامة ومعلمو التربية الإعلامية أيضًا إلى تقييم كيف يمكن للناس التحقق من الادعاءات الطبية دون التعامل مع مساعد الذكاء الاصطناعي كسلطة نهائية.
يجب أن يركز التحقق المستقل أولاً على الادعاءات التجريبية الأساسية. سيحتاج المحققون إلى نشر أو توثيق قائمة القنوات وطرق أخذ العينات والتواريخ وحسابات عدد المشاهدات ومعايير تحديد ما إذا كان الفيديو قد تم إنشاؤه بواسطة الذكاء الاصطناعي. تنشر هيئة الإذاعة البريطانية تقديرات أحد الباحثين ومراجعتها الخاصة لـ 20 قناة، لكنها لا توفر مجموعة البيانات الأساسية. كما أنها لا تحدد عدد المشاهدين الذين تصرفوا بناءً على مطالبات طبية، أو عدد المرات التي أوصت فيها أنظمة المنصات بمقاطع الفيديو الكاذبة، أو مقدار المحتوى الذي يأتي من مشغل مشترك.
يعد تطبيق النظام الأساسي اختبارًا عمليًا آخر. وقالت Google إن نفس القواعد تنطبق على مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي وأن المعلومات الطبية الخاطئة الخطيرة محظورة، بينما أفادت بي بي سي أنه تمت إزالة بعض القنوات. تشمل الأمور المجهولة مدى استمرار عرض التصنيفات، وما إذا كان يتم إلغاء تحقيق الدخل من مقاطع الفيديو الاصطناعية، وكيف تتعامل معها أنظمة التوصية، وما إذا كانت إزالة قناة واحدة تؤدي إلى استبدال سريع بقنوات أخرى. هذه الأسئلة مهمة لأن الباحث وصف شبكة من القنوات ذات ملفات تعريف حساب روبوت مماثلة، لكن المصدر لا يحدد بشكل مستقل منظمة واحدة تتحكم فيها.
ينبغي لمراقبة فترة الانتخابات أن تفصل التغييرات الملحوظة في المحتوى عن التكهنات. ولم يتم التأكد بشكل مستقل من مصدر الأمن القومي المجهول الذي استشهدت به بي بي سي، لذا لا ينبغي استخدامه كدليل على أن القنوات تحولت نحو رسالة سياسية معينة. وتشمل الأدلة الأقوى روابط الملكية الشفافة، والتنسيق المتكرر عبر القنوات، وأصول الإنتاج المشتركة، وسجلات التمويل أو التغييرات الموثقة في التوزيع والرسائل. وذكرت هيئة الإذاعة البريطانية (بي بي سي) أن بعض القنوات بدأت في مناقشة ما إذا كان الاتحاد مع الصين هو الأفضل، لكن حجم هذا المحتوى وأصله وتنسيقه لا يزال مجهولاً.
يقدم فصل تايبيه إجابة ملموسة: يقوم المشاهدون بإحضار مقاطع فيديو مألوفة إلى الدرس، ويتساءلون عن ادعاءاتهم ويقارنون النتائج بما يعرفونه بالفعل. قد يؤدي هذا النهج إلى تحسين الشكوك، لكن بي بي سي لم تثبت أن Gemini أو ChatGPT يمكنهما التحقق بشكل موثوق من مقطع فيديو أو التحقق من صحة المشورة الطبية. يجب أن تتتبع التغطية المستقبلية ما إذا كانت هذه الفصول تغير سلوك إعادة التوجيه، وما إذا كان المشاركون يستشيرون مصادر طبية أو حكومية موثوقة وكيف يتعامل المعلمون مع مخاطر استخدام نظام ذكاء اصطناعي غير كامل للتحقق من نظام آخر.