تشدد الصين القواعد المتعلقة بروبوتات الدردشة المصاحبة للذكاء الاصطناعي وسط مخاوف بشأن الاعتماد العاطفي

ماذا حدث

ذكرت صحيفة الغارديان أن قواعد الذكاء الاصطناعي الجديدة في الصين، والتي تم تقديمها في 15 يوليو، تحظر مرافقة القاصرين من الذكاء الاصطناعي وتفرض قيودًا على الخدمات التي يتم تسويقها للبالغين. وبحسب ما ورد، قامت ByteDance بإزالة الميزة المصاحبة لـ Doubao بعد دخول القواعد حيز التنفيذ، مما أثار رد فعل عنيفًا من المستخدمين الذين شكلوا ارتباطات عاطفية بروبوتات الدردشة الخاصة بهم.

ذكرت صحيفة الغارديان أن الصين أدخلت قواعد جديدة في 15 يوليو تحكم الخدمات المصاحبة للذكاء الاصطناعي. تحظر القواعد مرافقة الذكاء الاصطناعي للقاصرين وتتطلب فرض قيود على روبوتات الدردشة التي يتم تسويقها للبالغين عندما قد تعزز هذه الخدمات "الاعتماد العاطفي أو الإدمان" أو تحل محل التفاعل الاجتماعي. وتصف صحيفة الغارديان هذه الإجراءات بأنها القيود الوطنية الأكثر شمولاً من نوعها حتى الآن، ولكن هذا التوصيف هو تقييم المنفذ ولم يتم تأكيده بشكل مستقل هنا. وبالتالي فإن الرواية تميز بين القاعدة المبلغ عنها، وتوصيف المنفذ، والسؤال الذي لم يتم حله حول كيفية تطبيق القيود في الممارسة العملية.

وفقًا لصحيفة The Guardian، قامت ByteDance بإغلاق الميزة المصاحبة على Doubao، خدمة chatbot الخاصة بها، بعد تقديم القواعد. ويقدم التقرير لمحة عن تشاو وي، وهو طالب قانون يبلغ من العمر 19 عامًا أنشأ صديقًا يعمل بالذكاء الاصطناعي يُدعى وانغ يي، وتحدث معه يوميًا منذ يناير حتى تمت إزالة الميزة. قالت تشاو لصحيفة الغارديان إنها شعرت بالحزن الشديد بسبب الإغلاق واستخدمت برنامج الدردشة الآلي لمناقشة المخاوف الشخصية التي لم تكن تشاركها عادةً مع الأصدقاء. ويقدم هذا الملف مثالاً ملموساً لرد الفعل الموصوف في التقرير، في حين أنه لا يوضح مدى تمثيل تجربة زهاو.

ذكرت صحيفة الغارديان أن الاستجابة السياسية تتكشف جنبًا إلى جنب مع الاستخدام الواسع النطاق للذكاء الاصطناعي في الصين. وتقول إن كبار السن يستخدمون برامج الدردشة الآلية لطرح الأسئلة الطبية، ويتلقى الأطفال تعليم الذكاء الاصطناعي في المدارس، بينما تعمل الشركات والمسؤولون أيضًا على الترويج للذكاء الاصطناعي كأداة لإدارة الضغوط الديموغرافية والعمالية. ويشير التقرير إلى أن القواعد الجديدة تتضمن استثناءات للخدمات التي تعتبر تعليمية أو للأنظمة التي لا تنطوي على تفاعل عاطفي مستمر، مما يترك مجالا لاستمرار بعض التطبيقات ذات الصلة. تشير هذه التفاصيل إلى أن السياسة تندرج ضمن جهد وطني أوسع لتشكيل استخدامات الذكاء الاصطناعي التي يتم التعامل معها على أنها مقبولة.

تفاصيل المصدر: theguardian.com ↗

لماذا يهم

ويوضح التقرير كيف بدأت الحكومات في تنظيم أنظمة الذكاء الاصطناعي المصممة للتفاعل العاطفي المستمر، وليس فقط دقتها أو ممارساتها المتعلقة بالبيانات. كما يسلط الضوء على التوتر السياسي: فالسلطات الصينية تحد من الروبوتات المصاحبة بينما تشجع الذكاء الاصطناعي في الرعاية الصحية والتعليم لمعالجة الضغوط الديموغرافية والعمالية.

تضع تقارير صحيفة الغارديان رفاق الذكاء الاصطناعي ضمن نقاش أوسع حول ما إذا كانت أنظمة المحادثة يمكن أن تصبح بدائل للعلاقات الإنسانية. ويستشهد بمسح أجرته وسائل الإعلام الحكومية الصينية في شهر مارس، والذي وجد أن ما يقرب من نصف الشباب لجأوا إلى رفيق افتراضي عندما كانوا يشعرون بالوحدة. تُعزى نتيجة هذا الاستطلاع، وادعاءات الانتشار الأخرى الواردة في المقالة، إلى صحيفة الغارديان ومصادرها المذكورة؛ لا يوفر هذا المصدر التحقق المستقل من الأرقام. التمييز مهم لأن المسح المبلغ عنه والتفسير الأوسع ليسا شكلين متكافئين من الأدلة.

ولهذه القضية عواقب عملية على تصميم المنتجات والسياسة العامة. قد يتم تقييم برنامج الدردشة الآلي المُصمم للمحادثة الشخصية المستمرة بشكل مختلف عن المساعد العام الذي يجيب على الأسئلة العرضية. وتركز قواعد الصين، كما وصفتها صحيفة الغارديان، على إمكانية الاعتماد العاطفي وانخفاض التفاعل الاجتماعي، مما يشير إلى أن الهيئات التنظيمية تتعامل مع العلاقة التي يشجعها النظام - وليس فقط المحتوى الذي يولده - باعتبارها خطرا ذا صلة. وهذا النهج يجعل الاستخدام المقصود ونمط التفاعل محوريًا في السؤال التنظيمي.

ويظهر التقرير أيضًا التوتر بين تقييد استخدام واحد للذكاء الاصطناعي والترويج لاستخدامات أخرى. تقول صحيفة الغارديان إن لجنة الصحة الوطنية الصينية أصدرت مبادئ توجيهية في العام الماضي تدعو تطبيقات المساعدة الصحية إلى توفير تغطية كاملة للرعاية الصحية الأولية بحلول عام 2030. وتصف اللجنة تطبيق AQ، وهو تطبيق Ant Group الذي يتيح للمستخدمين الدردشة مع صور رمزية للأطباء، كمثال على ذلك. قد يكون من الصعب تطبيق التمييز بين المساعدة الداعمة والاستبدال العاطفي بشكل متسق، خاصة عندما يطور المستخدمون الثقة أو الارتباط بالأنظمة المقدمة كمساعدين. وبالتالي فإن نفس خصائص النظام التي تجعل المساعدة متاحة يمكن أن تؤدي إلى تعقيد حدود السياسة.

ماذا تشاهد بعد ذلك

وتشمل الأمور الرئيسية المجهولة كيف ستحدد الصين التفاعل العاطفي المستمر، وإلى أي مدى سيتم تطبيق القواعد على نطاق واسع، وما إذا كانت الإعفاءات التعليمية أو غيرها من الإعفاءات ستسمح باستمرار الخدمات المماثلة. تصف التقارير التي نشرتها صحيفة الغارديان والاستطلاعات المذكورة الاستخدام والقلق، لكن هذا المصدر لا يحدد بشكل مستقل مدى انتشار رفقة الذكاء الاصطناعي أو آثارها طويلة المدى.

والسؤال الأكثر إلحاحاً هو كيف سيفسر المنظمون الحدود بين المساعد المسموح به والرفيق المحظور. وذكرت صحيفة الغارديان أن الإعفاءات تشمل الخدمات والأنظمة التعليمية دون تفاعل عاطفي مستمر، لكن المصدر لم يوضح الاختبارات الفنية أو القانونية التي يجب على الشركات استخدامها. ستوضح قرارات التنفيذ أو التوجيهات أو العقوبات المستقبلية ما إذا كانت القواعد تستهدف ميزات معينة أو نماذج أعمال أو فئات عمرية أو أنماط سلوك المستخدم. ومن شأن هذه التطورات أن تظهر أيضًا مدى حرية التصرف التي تتمتع بها الشركات في تكييف المنتجات الحالية.

وذكرت صحيفة الغارديان أن بعض المستخدمين تفاعلوا بقوة عندما اختفت الوظيفة المصاحبة لدوباو، بينما قال مستخدم مجهول إن الذكاء الاصطناعي وفر مكانًا للتحدث بحرية في ظل ظروف الضغط العالي. وتوضح هذه الروايات الفوائد والأضرار المحتملة، لكنها شهادات فردية وليست دليلاً على تأثير على مستوى السكان. ولا يزال من غير المعروف ما إذا كانت إزالة الوظائف المصاحبة تقلل من الشعور بالوحدة، أو تحول المستخدمين إلى خدمات أخرى، أو تخلق أشكالًا جديدة من الضيق للأشخاص الذين يعتمدون عليها. وبالتالي فإن الأمثلة المتاحة تظهر المخاطر دون حل النتيجة الأكبر.

ويثير التقرير أيضًا تساؤلات حول الأدلة الكامنة وراء المخاوف من أن الرفقة باستخدام الذكاء الاصطناعي يمكن أن تقلل معدلات الزواج والولادة. وقال أحد الأكاديميين بجامعة مدينة هونج كونج لصحيفة الغارديان إن هذا قد يكون مصدر قلق إضافي للمسؤولين الذين يواجهون انخفاض معدلات الزواج والولادة، لكن المصدر لا يظهر أن مرافقي الذكاء الاصطناعي تسببوا في تغييرات في السلوك الرومانسي أو تكوين الأسرة أو الخصوبة. وينبغي لمزيد من المراقبة أن تميز بين سلوك المستخدم الموثق ومخاوف الحكومة، وينبغي أن تدرس ما إذا كانت الضمانات تعمل على تحسين الرفاهية دون قطع الدعم المفيد المنخفض التكلفة. ومن شأن هذه الأدلة أن تساعد في فصل المخاوف السياسية المعلنة عن التأثير الاجتماعي الواضح.

الأدلة والاختبارات ذات الصلة