ماذا حدث
أفادت تقارير BigGo Finance، نقلاً عن صحيفة نيويورك تايمز، أن الجيش الأوكراني وخبراء الطب الشرعي فحصوا حطام طائرة روسية بدون طيار ضربت محطة وقود في زابوريزهيا الشهر الماضي. ويقول التقرير إن الطائرة بدون طيار كانت تحمل جهاز كمبيوتر Nvidia Jetson Orin، وصور التضاريس المخزنة ونموذج الذكاء الاصطناعي، وتفتقر إلى هوائي الاتصالات المرتبط بأنظمة التحكم عن بعد. وبحسب الرواية، استخدمت الطائرة بدون طيار كاميرتها للتعرف على خزان غاز البروبان وهاجمته بشكل مستقل. وبحسب ما ورد أدت الغارة إلى مقتل ثلاثة مدنيين، من بينهم طالب جامعي يبلغ من العمر 19 عامًا.
تفيد تقارير BigGo Finance أن صحيفة نيويورك تايمز استعرضت حادثة ضربت فيها طائرة روسية بدون طيار محطة وقود في زابوريزهيا، جنوب شرق أوكرانيا، خلال الشهر السابق. وبحسب ما ورد قام خبراء عسكريون وخبراء في الطب الشرعي الأوكرانيون بتحليل الحطام ووجدوا جهاز كمبيوتر مصغر من طراز Nvidia Jetson Orin على متن الطائرة. يقول المصدر إن الجهاز كان غير مشفر ويحتوي على صور للتضاريس ونموذج للذكاء الاصطناعي. وتقول أيضًا إن المحققين لم يعثروا على هوائي اتصالات من النوع المرتبط عادة بالعملية الموجهة عن بعد. تم تقديم هذه التفاصيل بواسطة BigGo Finance كدليل مذكور في تقرير نيويورك تايمز؛ لا يتم تضمين ملفات الطب الشرعي الأساسية وسجلات سلسلة الحراسة والتحليل الفني الكامل في المصدر المقدم.
وفقًا للحساب، اتبعت الطائرة بدون طيار طريقًا مبرمجًا مسبقًا نحو المنطقة المستهدفة ثم استخدمت مدخلات الكاميرا لتحديد موقع خزان البروبان قبل الاصطدام به. ويميز التقرير هذا عن الاستخدام المحدود للذكاء الاصطناعي حيث يختار المشغل البشري الهدف ويساعد البرنامج في التنقل أثناء النهج النهائي. وفي الحادثة المبلغ عنها، زُعم أن الذكاء الاصطناعي تعامل مع التعرف على الهدف والاختيار النهائي لما يجب ضربه. وتقول شركة BigGo Finance إن النظام قد تم تدريبه على آلاف الصور للتعرف على الأشياء بما في ذلك خزانات البروبان والمركبات العسكرية. لا يحدد المصدر النموذج أو مجموعة بيانات التدريب أو مطور البرامج أو عملية اتخاذ القرار الدقيقة المستخدمة على متن الطائرة.
وتقول شركة BigGo Finance إن الغارة أسفرت عن مقتل ثلاثة مدنيين، من بينهم تيتيانا بوبينيتس، التي وصفها التقرير بأنها طالبة جامعية تبلغ من العمر 19 عامًا تدرس المحاسبة. وقالت كاترينا بوندار، التي تم تعريفها بأنها زميلة بارزة في مركز الدراسات الاستراتيجية والدولية، لصحيفة نيويورك تايمز إن الحادث كان أقوى دليل حتى الآن على أن روسيا كانت تختبر أسلحة الذكاء الاصطناعي المستقلة. ويعزو المصدر إلى بوندار التقييم بأن هذه كانت أول حالة مؤكدة لمقتل مدنيين ناجمة عن هجوم اختارت فيه منظمة العفو الدولية الهدف. هذا التوصيف هو تقييم خبراء تم الإبلاغ عنه، وليس نتيجة مثبتة بشكل مستقل في المواد المقدمة هنا.
وأكدت Nvidia للمنفذ أن الكمبيوتر هو منتج Jetson Orin، بينما قالت إنه كمبيوتر AI للأغراض العامة مخصص للطلاب والمطورين والشركات الناشئة. وقالت Nvidia أيضًا إنها لا تبيع حاليًا لروسيا وأنه ربما تم الحصول على الجهاز من خلال موزعين خارجيين. ولم يحدد المصدر متى أو أين تم شراء الكمبيوتر، أو من قام بدمجه في الطائرة بدون طيار، أو ما إذا كان Nvidia على علم باستخدامه العسكري. كما أنها لا تقدم نموذج الطائرة بدون طيار، أو القائمة الكاملة للمكونات الموجودة على متن الطائرة أو تأكيدًا مستقلاً بأن عدم وجود هوائي اتصالات يستبعد جميع أشكال التحكم البشري الخارجي.
تفاصيل المصدر: finance.biggo.com ↗
لماذا يهم
إذا كان الحساب دقيقًا، فإنه سيمثل تحولًا كبيرًا عن الطائرات بدون طيار التي يحدد فيها البشر الأهداف بينما تساعد البرامج الموجودة على متن الطائرة في الملاحة أو النهج النهائي. قد يشير ذلك إلى أنه تم استخدام نظام الذكاء الاصطناعي لاتخاذ القرار النهائي لاختيار الهدف في هجوم مميت، مما يثير أسئلة عملية حول حماية المدنيين والمساءلة والسيطرة على الأسلحة المستقلة.
إن الحادث الذي تم الإبلاغ عنه مهم لأنه يتعلق بالنقطة التي يتم عندها إزالة الحكم البشري من القرار المميت. تستخدم العديد من الأنظمة العسكرية الأتمتة للملاحة أو تتبع الأشياء أو المساعدة في الاستهداف مع الاحتفاظ بالمشغل البشري الذي يحدد الكائن المراد مهاجمته. الحساب الذي وصفته BigGo Finance مختلف جوهريًا: يُزعم أن النظام اختار الكائن بنفسه بعد الوصول إلى المنطقة المستهدفة. إذا تم التحقق من ذلك، فإن ذلك من شأنه أن يجعل أخطاء التصور والتصنيف لدى الذكاء الاصطناعي ذات صلة مباشرة بما إذا كانت المنشأة المدنية يتم التعامل معها كهدف عسكري.
لا يقتصر الخطر العملي على ما إذا كان البرنامج قادرًا على التعرف على خزان البروبان في ظروف خاضعة للرقابة. يمكن أن تحتوي بيئة ساحة المعركة على بنية تحتية مدمرة وأشياء محجوبة وضوء متغير ودخان وأفخاخ خداعية وأشخاص بالقرب من المعدات العسكرية أو الصناعية. لا يقدم المصدر أي نتائج اختبار توضح مدى دقة أداء هذا النظام في تلك الظروف. كما أنها لا تذكر ما إذا كان بإمكان الإنسان التدخل، أو ما إذا كان النظام لديه ضمانات ضد مهاجمة المدنيين القريبين، أو ما حدث عندما كانت الأدلة المرئية غامضة. تمنع هذه الأمور المجهولة إجراء تقييم موثوق للأداء الفني للنظام أو مستوى الاستقلالية المعنية.
وتثير هذه الحادثة أيضًا أسئلة تتعلق بالمساءلة. إذا اختار برنامج الطائرة بدون طيار هدفًا، فقد يتم توزيع المسؤولية بين الأشخاص الذين صمموا النموذج وقاموا بتدريبه ودمجه في الطائرة، وأذنوا بالمهمة ونشروها. ولم يوضح التقرير كيفية توزيع المسؤولية في هذه الحالة. ووصف الكولونيل سيرهي مينياييف، قائد الدفاع الجوي في زابوريزهيا، التطور بأنه خطر على العالم، وقال إن الآلات بدأت بالفعل في اتخاذ قرار بشأن الهجوم. تنقل هذه الملاحظات المخاوف التي أبلغت عنها BigGo Finance، لكنها لا تحدد بشكل مستقل قدرات النظام أو النطاق الأوسع للنشر.
ويقول المصدر إن أوكرانيا أيضًا ليست خالية من تطوير الأسلحة الذاتية التشغيل. وينسب التقرير إلى ميخايلو فيدوروف، الذي يوصف بأنه وزير الدفاع الأوكراني السابق، تصريح مفاده أن أوكرانيا اختبرت أنظمة ذكاء اصطناعي مستقلة بالكامل في المناطق التي تحتلها روسيا مثل شبه جزيرة القرم. لا تقدم BigGo Finance أي تفاصيل فنية أو دعمًا مستقلاً لهذا الادعاء. ولذلك ينبغي التعامل معها بشكل منفصل عن تحليل الطب الشرعي المبلغ عنه للطائرة الروسية بدون طيار. يُظهر الادعاءان معًا سبب أهمية الأدلة المتعلقة بأنظمة ومهمات وضمانات محددة أكثر من التأكيدات العامة على أن أيًا من الجانبين يقوم بتطوير أسلحة ذاتية التشغيل.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
ماذا تشاهد بعد ذلك
وتتمثل الأسئلة الرئيسية في ما إذا كان من الممكن فحص نتائج الطب الشرعي بشكل مستقل، وكيف حدد نظام الذكاء الاصطناعي الأهداف، وما إذا كانت الطائرة بدون طيار تعمل بشكل مستقل طوال الاشتباك، ومدى انتشار روسيا أو أوكرانيا لأنظمة مماثلة. وبحسب التقرير، فإن المناقشات الدولية بشأن الأسلحة المستقلة الفتاكة لا تزال دون حل.
الأولوية الأولى هي التحقق المستقل من الأدلة المبلغ عنها. وسيشمل ذلك الوصول إلى الصور الفوتوغرافية وقوائم جرد المكونات المستردة، والملفات المخزنة في Jetson Orin، وصور التضاريس والنماذج الفنية، وتفسير تقني لكيفية استنتاج المحققين أن النظام اختار الهدف دون تدخل بشري. يسمي المصدر المقدم صحيفة نيويورك تايمز باعتبارها منفذ التقارير ولكنه لا يوفر تلك المواد الأولية. وإلى أن تصبح متاحة للتدقيق، ينبغي وصف الرواية بأنها نتيجة خطيرة تم الإبلاغ عنها بدلاً من كونها حقيقة تم التحقق منها بشكل مستقل تمامًا.
يجب أن تحدد التقارير الإضافية التسلسل الدقيق للأحداث. تشمل الأسئلة المهمة ما إذا كان الإنسان قد خطط للمهمة، وما إذا كان الإنسان قد اختار المنطقة المستهدفة العامة، وما إذا كان الذكاء الاصطناعي يختار فقط من بين الأشياء المعتمدة مسبقًا، وما إذا كانت الطائرة بدون طيار قد نقلت أي بيانات، وما إذا كان بإمكان المشغل إجهاض الهجوم. إن غياب هوائي الاتصالات أمر ذو صلة بحجة التقرير، لكنه في حد ذاته لا يصف كل آلية مراقبة أو أمان محتملة. ولم يذكر المصدر أيضًا ما إذا كان برنامج الطائرة بدون طيار قد تم اختباره مقابل نتائج إيجابية كاذبة أو ما إذا كان لديه قاعدة تتطلب تحديدًا إيجابيًا قبل الهجوم.
وتشكل استجابة السياسة الدولية مجالاً آخر يجب مراقبته. وتشير تقارير BigGo Finance إلى أن اللجنة الدولية للصليب الأحمر ومنظمات حقوق الإنسان أثارت مخاوف بشأن الأسلحة المستقلة الفتاكة، في حين استمرت مناقشات الأمم المتحدة حول هذه القضية دون قواعد ملزمة. لا يحدد الحساب معاهدة أو قرارًا أو إجراءً حكوميًا جديدًا ناتجًا عن هذا الحادث. وسيكون التطور المهم على المدى القريب هو ما إذا كانت الحكومات تنشر قواعد بشأن السيطرة البشرية، أو تطلب الكشف عن أنظمة الاستهداف المستقلة أو مراجعتها، أو إنشاء آليات للتحقيق في الضرر الذي يلحق بالمدنيين باستخدام الأسلحة التي تدعم الذكاء الاصطناعي.
وأخيرا، ينبغي للمراقبين أن يراقبوا الأدلة المتعلقة بالحجم والتكرار. لا تثبت إحدى الطائرات بدون طيار التي تم الإبلاغ عنها أن روسيا قد نشرت أسطولًا واسعًا من الأنظمة الفتاكة ذاتية التحكم بالكامل، كما أنها لا تظهر أن هذه الأنظمة يمكن الاعتماد عليها في القتال. لا يقدم المصدر أي عدد من الطائرات بدون طيار، أو مواقع النشر بعد هذا الحادث، أو معدل النجاح التشغيلي أو دليل على الاستخدام المتكرر. كما أنها لا تحدد ما إذا كان الهجوم المبلغ عنه تجربة معزولة، أو جزء من برنامج محدود أو قدرة تشغيلية. تعتبر هذه الفجوات أساسية لفهم الأهمية العامة والعسكرية لهذا الحدث.