رئيس المخابرات الصينية يحذر من أن الذكاء الاصطناعي قد يساعد القوات المعادية

ماذا حدث

ذكرت صحيفة ساوث تشاينا مورنينج بوست أن تشن ييشين، وزير أمن الدولة الصيني، حذر من أن الذكاء الاصطناعي أصبح ساحة جديدة للتنافس الاستراتيجي. وفي مقال نشرته مجلة China Cyberspace، وهي مجلة تديرها الهيئة المنظمة للفضاء السيبراني في الصين، دعا تشن إلى إنشاء أطر أقوى للوقاية من المخاطر، وأنظمة الإنذار المبكر، والحوكمة الدولية للذكاء الاصطناعي. وقال إن القوى المعادية يمكن أن تستخدم الذكاء الاصطناعي لنشر المعلومات المضللة وسرقة البيانات الحساسة وخفض تكلفة الهجمات الإلكترونية. ويقول التقرير أيضًا إن تشين انتقد الأنظمة البيئية المغلقة والضوابط التكنولوجية التي قال إنها تعمق الفجوة العالمية في مجال الذكاء الاصطناعي.

وفقًا لصحيفة South China Morning Post، كتب تشين ييشين أن الذكاء الاصطناعي يمكن أن يكون له تأثير نظامي على الأمن الأيديولوجي ويمكن استخدامه من قبل القوى المعادية لتوليد الشائعات وإنتاج معلومات ضارة على نطاق واسع. وحذر أيضًا من أن الذكاء الاصطناعي يمكن أن يهدد البنية التحتية الحيوية للمعلومات من خلال تقليل العتبة التقنية وتكلفة الهجمات السيبرانية.

يعزو التقرير مخاوف تشين بشأن استخدام وكالات المخابرات الأجنبية لبرامج زحف الويب واستخراج البيانات والتنميط لجمع بيانات الدولة وأسرار الأعمال والمعلومات الشخصية. بالإضافة إلى ذلك، حذر تشين من أن المستخدمين قد يتسببون في تسرب البيانات المحلية من خلال معالجة المعلومات الحساسة من خلال أدوات الذكاء الاصطناعي الأجنبية.

وبحسب ما ورد أشار تشين إلى نقاط الضعف في عملاء الذكاء الاصطناعي مفتوحة المصدر، بما في ذلك الوكيل المحدد في التقرير باسم OpenClaw، والذي قد يسمح بالتحكم في الجهاز عن بعد أو تسرب البيانات الحساسة. لا يقدم المصدر أي اختبار مستقل أو وثائق فنية أو التحقق من تلك الادعاءات.

ودعا تشين إلى إنشاء آليات إنذار مبكر وإرشادات عامة فيما يتعلق بالتجسس وسرقة أسرار الدولة والتضليل والاحتواء الاستراتيجي. ويربط التقرير أيضًا تصريحاته بدعم الصين لمنظمة التعاون العالمية للذكاء الاصطناعي التي تدعمها الصين، والتي يقال إن 29 دولة وافقت في يوليو على إنشائها في شنغهاي.

تفاصيل المصدر: scmp.com ↗

لماذا يهم

وتضع هذه التصريحات أمن الذكاء الاصطناعي والتحكم في المعلومات وحوكمة التكنولوجيا في قلب المنافسة الاستراتيجية الأوسع بين الصين والولايات المتحدة. كما أنها تظهر كيف يقوم مسؤولو الأمن القومي بتأطير الوصول إلى النماذج المتقدمة، وحماية البيانات، والمعايير الدولية المفتوحة باعتبارها قضايا جيوسياسية، وليس فقط قضايا فنية أو تجارية. تظل الأهمية العملية محدودة حتى تقوم الصين أو الحكومات الأخرى بإدراج قواعد محددة أو تدابير إنفاذ أو ضمانات تشغيلية لهذه المخاوف المعلنة.

ويصف التقرير إطارًا أمنيًا له العديد من العواقب العملية: قد تواجه المؤسسات ضغوطًا أكبر لتقييد الاستخدام الحساس لخدمات الذكاء الاصطناعي الأجنبية، وقد تقوم الحكومات بتوسيع مراقبة عمليات التأثير المدعومة بالذكاء الاصطناعي، وقد يُتوقع من مطوري النماذج أو الوكلاء إظهار ضوابط أقوى على الوصول إلى البيانات وإجراءات الأجهزة.

ويكتسب البعد الجيوسياسي أهمية كبيرة لأن تعليقات تشين تربط سلامة الذكاء الاصطناعي والأمن السيبراني بضوابط التصدير، والقيود المفروضة على سلسلة التوريد، ووضع المعايير، والأنظمة البيئية مغلقة المصدر. وتقدم صحيفة ساوث تشاينا مورنينج بوست هذه الأمور كجزء من التنافس التكنولوجي الأوسع بين الولايات المتحدة والصين؛ لا تثبت المقالة بشكل مستقل أن النماذج أو الأدوات المذكورة تسببت في حوادث محددة.

تعتبر هذه التصريحات مهمة كإشارة سياسية، لكنها تظل تصريحات لمسؤول صيني كبير نقلتها صحيفة ساوث تشاينا مورنينج بوست. لا يوثق المصدر التشريعات الجديدة أو إجراءات التنفيذ أو الهجمات التي تم التحقق منها أو القدرات النموذجية التي تم قياسها بشكل مستقل.

ماذا تشاهد بعد ذلك

راقب اللوائح الصينية الملموسة أو التحذيرات العامة أو المتطلبات الأمنية التي تتناول البيانات الحساسة التي تم إدخالها في أدوات الذكاء الاصطناعي الأجنبية، والهجمات الإلكترونية التي تدعم الذكاء الاصطناعي والوكلاء المستقلين المعرضين للخطر. ومن غير الواضح أيضًا ما إذا كان إطار الحوكمة الدولية المقترح سينتج عنه معايير ملزمة أو سيعمل في المقام الأول كمنصة دبلوماسية. ولا يؤكد تقرير صحيفة ساوث تشاينا مورنينج بوست بشكل مستقل التقييمات الفنية التي أجراها تشين أو يحدد مدى خطورة نقاط الضعف المزعومة.

المجهول الرئيسي هو التنفيذ. إن دعوة تشن إلى وضع أطر لمنع المخاطر وقواعد عالمية لا تحدد التزامات الامتثال، أو الوكالات المسؤولة، أو صلاحيات التنفيذ، أو جدول زمني.

لا تنطبق أي شروط وصول أو أسعار لأن هذا يعد بمثابة تطوير للسياسة والأمان وليس إطلاق منتج. لا يحدد المصدر التوفر العام أو حالة النشر أو القدرات التي تم التحقق منها بشكل مستقل لأنظمة الذكاء الاصطناعي والوكلاء المذكورين.

وينبغي أن توضح التقارير المستقبلية ما إذا كانت منظمة التعاون العالمية للذكاء الاصطناعي تعمل على تطوير معايير تشغيلية، وكيف تتعامل مع الاختلافات بين السياسات الوطنية، وما إذا كانت الحكومات الأخرى تتبنى توصياتها رسميًا.

لا تزال هناك حاجة إلى أدلة فنية مستقلة لدعم ادعاءات المصدر بشأن تكاليف الهجوم السيبراني، ونقاط ضعف الوكيل مفتوح المصدر، ومخاطر تسرب البيانات.

الأدلة والاختبارات ذات الصلة