ماذا حدث
أرسلت مجموعة من كبار أعضاء مجلس الشيوخ الديمقراطيين، بما في ذلك مارك وارنر وجاك ريد وكريس كونز، رسالة رسمية يوم الجمعة تحث هيئات المراقبة الحكومية على التحقيق في أخطاء كبيرة في خطط الاستهداف العسكرية الأمريكية الناجمة عن الذكاء الاصطناعي. تستشهد الرسالة بتقرير لشبكة CNN يشرح بالتفصيل حادثة اعتمد فيها أحد المحللين على الذكاء الاصطناعي لإنشاء تقرير استخباراتي حدد بشكل خاطئ سفينة شحن صينية على أنها تحمل مكونات أسلحة نووية. أدى هذا الخطأ إلى قيام الجيش الأمريكي بالتحضير لعملية اعتراضية تم إلغاؤها فقط بعد أن أدرك المسؤولون أن التقرير الذي أصدره الذكاء الاصطناعي كان كاذبًا تمامًا. وأشار أعضاء مجلس الشيوخ أيضًا إلى الضربة القاتلة التي وقعت في فبراير في إيران والتي أسفرت عن مقتل ما يقرب من 200 شخص، والتي قالت مصادر لشبكة CNN إنها حدثت بعد أن تجاوز القادة تحذيرات قاعدة بيانات مدعومة بالذكاء الاصطناعي بشأن معلومات استخباراتية قديمة. تطالب الرسالة بإجراء تحقيق فوري من قبل المفتشين العامين بشفافية عامة، بحجة أن إعطاء الأولوية لاعتماد الذكاء الاصطناعي على الحوكمة قد خلق مخاطر تشغيلية خطيرة.
بعثت مجموعة من كبار أعضاء مجلس الشيوخ الديمقراطيين، بما في ذلك مارك وارنر وجاك ريد وكريس كونز، برسالة يوم الجمعة إلى وزير الدفاع بيت هيجسيث ومدير المخابرات الوطنية جاي كلايتون. وتدعو الرسالة إلى إجراء تحقيق فوري من قبل المفتشين العامين المعنيين في سلسلة من الأخطاء في خطط الاستهداف العسكرية الأمريكية الناجمة عن الذكاء الاصطناعي. وأعرب أعضاء مجلس الشيوخ عن قلقهم المتزايد من أن الوكالات الخاضعة لإشرافهم أعطت الأولوية لتسريع اعتماد قدرات الذكاء الاصطناعي وتجريبها على الحوكمة الفعالة.
تستشهد الرسالة على وجه التحديد بتقرير شبكة CNN حول مكالمة قريبة تتعلق بسفينة صينية في الشرق الأوسط. وفقًا لمصادر مطلعة على الحادث، اعتمد محلل قيادة العمليات الخاصة على الذكاء الاصطناعي لإنشاء تقرير استخباراتي حدد بشكل غير دقيق المواد الموجودة على سفينة شحن صينية. ودفع التقرير الجيش الأمريكي إلى الاعتقاد بأن السفينة كانت تنقل مكونات برنامج أسلحة نووية. بدأ الجيش في تسهيل خطط اعتراض السفينة قبل أن يدرك المسؤولون، قبل العملية المخطط لها مباشرة، أن التقرير تم إعداده بمساعدة الذكاء الاصطناعي وكان كاذبًا تمامًا. ووصف أحد المصادر هذا بأنه "هلوسة" ولم يكن حادثًا منعزلاً عبر مجتمع الاستخبارات منذ أن بدأ استخدام الذكاء الاصطناعي في الانتشار في الحكومة.
وأشار أعضاء مجلس الشيوخ أيضًا إلى الضربة الأمريكية القاتلة التي استهدفت مدرسة في ميناب بإيران في فبراير/شباط الماضي، والتي أسفرت عن مقتل ما يقرب من 200 طفل وبالغ. وقالت ثلاثة مصادر لشبكة CNN في وقت سابق من هذا العام، إن الضربة جاءت بعد أن تجاوز كبار القادة العسكريين الأمريكيين التحذيرات في قواعد البيانات المهمة، بما في ذلك واحدة مدعومة بالذكاء الاصطناعي، بأن المعلومات الاستخبارية حول الأهداف المحتملة في إيران قديمة جدًا. تقول الرسالة إن التقارير العامة عن منصات استهداف الذكاء الاصطناعي التي تولد مخرجات زائفة تخاطر بحدوث خطأ تشغيلي خطير وتقوض الثقة في الاستخبارات الأمريكية والعمل الحركي.
تطالب الرسالة هيجسيث وكلايتون بالتحقيق على الفور في الأمر وتزويد المفتشين العامين بوصول غير مقيد إلى كلتا الحالتين هذا العام حيث أشارت تقارير وسائل الإعلام إلى أخطاء كبيرة في سير عمل الاستهداف المدعوم بالذكاء الاصطناعي، بالإضافة إلى أي حالات إضافية لم يتم الإبلاغ عنها علنًا بعد. ويؤكد أعضاء مجلس الشيوخ على الحاجة إلى درجة أعلى من الشفافية العامة في النتائج النهائية، نظرا لتأثيرات هذه الإخفاقات الملحوظة على ثقة الجمهور في المهام الاستخباراتية والقتال.
تفاصيل المصدر: edition.cnn.com ↗
لماذا يهم
يسلط هذا التطور الضوء على المخاطر الملموسة لدمج الذكاء الاصطناعي في سير العمل العسكري والاستخباراتي عالي المخاطر دون حوكمة قوية. الحادثة التي وصفتها شبكة سي إن إن، حيث كادت هلوسة الذكاء الاصطناعي أن تبدأ حربًا، تؤكد الحاجة الماسة للرقابة البشرية والتحقق في الأنظمة الآلية. تشير دعوة أعضاء مجلس الشيوخ لإجراء تحقيق من قبل المفتش العام إلى إجماع سياسي متزايد على أن الوتيرة الحالية لاعتماد الذكاء الاصطناعي في قطاع الدفاع قد تتجاوز تطوير ضوابط السلامة الضرورية. قد يؤدي ذلك إلى أطر تنظيمية جديدة أو تغييرات في السياسة الداخلية داخل وزارة الدفاع لضمان موثوقية الذكاء الاصطناعي في العمليات الحركية.
ويوضح الحادث الذي تعرضت له سفينة الشحن الصينية المخاطر الشديدة الناجمة عن الاعتماد على الذكاء الاصطناعي لإجراء تقييمات استخباراتية مهمة دون التحقق البشري الكافي. وحقيقة أن هذا الخطأ لم يتم اكتشافه إلا قبل بدء عملية عسكرية مخطط لها، تسلط الضوء على احتمال حدوث عواقب دبلوماسية وعسكرية كارثية إذا لم تتم إدارة هلوسة الذكاء الاصطناعي بشكل صحيح. يعد هذا الحدث بمثابة مثال ملموس على أهمية ضوابط الحوكمة والسلامة في تطبيقات الذكاء الاصطناعي عالية المخاطر.
إن الإشارة إلى الضربة القاتلة في إيران تؤكد بشكل أكبر التكلفة البشرية لفشل الاستخبارات المتعلقة بالذكاء الاصطناعي. يشير تجاوز التحذيرات المدعومة بالذكاء الاصطناعي بشأن البيانات القديمة إلى أن الأنظمة الحالية قد لا يتم دمجها بشكل فعال في عمليات صنع القرار، أو أن المشغلين البشريين ربما يتجاهلون فحوصات السلامة الحرجة. وهذا يثير تساؤلات جدية حول موثوقية سير عمل الاستهداف المدعوم بالذكاء الاصطناعي والحاجة إلى آليات إشراف أكثر قوة.
تشير دعوة أعضاء مجلس الشيوخ لإجراء تحقيق من قبل المفتش العام إلى تحول في الديناميكيات السياسية فيما يتعلق بالذكاء الاصطناعي في الجيش. وفي حين يهيمن النقاش حول تنظيم الذكاء الاصطناعي على الكونجرس، حيث يدعو الديمقراطيون إلى فرض ضوابط أكثر صرامة ويحذر الجمهوريون من تباطؤ التنمية، فإن هذه الحادثة توفر حجة مقنعة للحاجة إلى حكم فعال. يمكن أن تؤثر نتيجة التحقيق على قرارات السياسة المستقبلية وربما تؤدي إلى لوائح أو بروتوكولات داخلية جديدة لضمان موثوقية الذكاء الاصطناعي في العمليات العسكرية.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
ترقبوا رد وزير الدفاع بيت هيجسيث ومدير المخابرات الوطنية جاي كلايتون على رسالة أعضاء مجلس الشيوخ. بالإضافة إلى ذلك، مراقبة ما إذا كان المفتشون العامون سيبدأون تحقيقًا رسميًا في الحوادث المحددة المذكورة، بما في ذلك اعتراض السفينة الصينية والضربة الإيرانية. قد تؤثر نتيجة هذا التحقيق على مناقشات أوسع في الكونجرس حول تنظيم الذكاء الاصطناعي في الجيش ويمكن أن تؤثر على المفاوضات الجارية بين البنتاغون وشركات الذكاء الاصطناعي مثل Anthropic فيما يتعلق باستخدام نماذجها في الأسلحة المستقلة.
سيكون رد وزير الدفاع بيت هيجسيث ومدير المخابرات الوطنية جاي كلايتون على رسالة أعضاء مجلس الشيوخ مؤشرًا رئيسيًا لموقف الإدارة بشأن حوكمة الذكاء الاصطناعي في الجيش. قد يكشف رد فعلهم ما إذا كانوا على استعداد للتعاون مع تحقيق المفتش العام أو ما إذا كانوا سيدافعون عن النهج الحالي لاعتماد الذكاء الاصطناعي.
إن الشروع في إجراء تحقيق رسمي من قبل المفتشين العامين في الحوادث المحددة المذكورة في الرسالة سيكون بمثابة تطور مهم. يمكن أن يوفر نطاق هذا التحقيق ونتائجه رؤى قيمة حول مدى الأخطاء المتعلقة بالذكاء الاصطناعي في سير عمل الاستهداف العسكري وفعالية تدابير الحوكمة الحالية.
قد يتأثر الجدل الدائر في الكونجرس حول تنظيم الذكاء الاصطناعي بنتائج هذا التحقيق. إذا كشف التحقيق عن إخفاقات كبيرة في حوكمة الذكاء الاصطناعي، فقد يؤدي ذلك إلى تعزيز الحجة لصالح فرض قواعد تنظيمية أكثر صرامة وآليات رقابة أكثر قوة. على العكس من ذلك، إذا وجد التحقيق أن الحوادث كانت معزولة وأن الضوابط الحالية فعالة، فقد يعزز ذلك الحجة الداعية إلى استمرار التبني السريع للذكاء الاصطناعي.
قد تتأثر أيضًا العلاقة بين البنتاغون وشركات الذكاء الاصطناعي مثل Anthropic بهذا الحادث. وقد دخلت وزارة الدفاع بالفعل في خلاف مع Anthropic بسبب رفض الشركة إزالة حواجز السلامة الداخلية التي من شأنها أن تمنع الجيش من استخدام نموذج Claude AI في الأسلحة المستقلة والمراقبة الجماعية. يمكن أن تؤثر نتيجة التحقيق على المفاوضات والشراكات المستقبلية بين الجيش ومطوري الذكاء الاصطناعي.