ماذا حدث
أفادت Technology.org أن رئيس الوزراء آندي بورنهام والرئيس فولوديمير زيلينسكي وقعا شراكة بين المملكة المتحدة وأوكرانيا في كييف تركز على تطوير أدوات الذكاء الاصطناعي للدفاع والأمن. ويقول التقرير إن بريطانيا هي أول شريك دولي يمنح حق الوصول إلى مختبرات Avengers AI في أوكرانيا، والتي تستخدم بيانات ساحة المعركة المرتبطة بنظام DELTA.
أفادت Technology.org أن بريطانيا وأوكرانيا وقعتا شراكة يوم الاثنين لتطوير أدوات الذكاء الاصطناعي للدفاع والأمن بشكل مشترك. ويحدد التقرير آندي بورنهام وفولوديمير زيلينسكي باعتبارهما الموقعين، ويقول إن الاتفاقية تتيح للباحثين البريطانيين الوصول إلى منصة بيانات ساحة المعركة الأوكرانية المستخدمة لتدريب أنظمة الذكاء الاصطناعي العسكرية. تقدم Technology.org بريطانيا كأول شريك دولي يحصل على إمكانية الوصول إلى Avengers AI Labs. تأتي هذه التفاصيل من التقرير الثانوي ولم يتم تأكيدها بشكل مستقل في المواد المقدمة هنا.
تقول Technology.org إن Avengers Labs مبنية على مجموعة بيانات مشروحة تضم حوالي 5 ملايين صورة لساحة المعركة، مستمدة إلى حد كبير من نظام DELTA لإدارة ساحة المعركة والتوعية الظرفية الذي تم تطويره محليًا في أوكرانيا. ويقول التقرير إن المنصة تتلقى مواد من آلاف الكاميرات النهارية وأجهزة استشعار الأشعة تحت الحمراء المتمركزة عبر الخط الأمامي. وتشمل الأهداف المبلغ عنها الدبابات والمدفعية وأنظمة الدفاع الجوي والمشاة والأهداف الجوية مثل طائرات شاهد بدون طيار وطائرات الاستطلاع بدون طيار. ويصف التقرير مجموعة البيانات بأنها مواد حقيقية في ساحة المعركة وليست بيانات محاكاة أو مقطوعة أو تركيبية.
ويقول التقرير أيضًا إن النماذج التي تم تدريبها على البيانات تعمل بالفعل على تشغيل نظام آلي للكشف عن الأهداف يعالج أكثر من 100000 مقطع فيديو للطائرات بدون طيار كل شهر. تشير تقارير Technology.org إلى أن النظام يحدد حوالي 70% من أهداف العدو في الوقت الفعلي. ولا تحدد هذه الصياغة ما تعنيه كلمة "يحدد" من الناحية التشغيلية، أو كيفية حساب النسبة المئوية، أو أنواع الأهداف التي تم تضمينها، أو ما إذا كان الرقم يمثل الدقة أو الاستدعاء أو أي مقياس آخر. لا يتم توفير نتائج اختبار مستقلة أو منهجية أو سجلات نشر في المصدر.
وفقًا لـ Technology.org، تبدأ الشراكة بمشروعين تجريبيين. وسيقوم أحدهم بفحص كابلات الألياف الضوئية باعتبارها أجهزة استشعار مدعمة بالذكاء الاصطناعي لحماية المنشآت العسكرية. أما الآخر فسيقوم بالبحث في رقائق الذكاء الاصطناعي منخفضة الطاقة للطائرات بدون طيار والأنظمة المستقلة، ومعالجة قيود الحوسبة والطاقة التي تحد من الاستقلالية على متن الطائرة. ويضع التقرير الاتفاقية ضمن الشراكة الأوسع بين المملكة المتحدة وأوكرانيا لمدة 100 عام، ويقول إنها تجمع الجامعات والباحثين وشركات التكنولوجيا والمهندسين والخبراء العسكريين. ويصف أيضًا قرارًا بريطانيًا منفصلاً بالسماح لشركة MBDA بالإفراج عن معلومات سرية حول المكونات المستخدمة في صواريخ كروز SCALP، حتى يمكن إنشاء خطوط الإنتاج في أوكرانيا.
تفاصيل المصدر: technology.org ↗
لماذا يهم
إذا كانت الأرقام المعلنة وترتيبات الوصول دقيقة، فإن الاتفاقية ستمنح الباحثين البريطانيين وصولاً مباشرًا بشكل غير عادي إلى البيانات العسكرية التشغيلية لتطوير الذكاء الاصطناعي. كما أنه يثير أسئلة عملية حول تقييم النماذج، والتحكم البشري، وإدارة البيانات، واستخدام مجموعات البيانات المشتقة من القتال في الأنظمة المستقلة المستقبلية.
إن ترتيبات الوصول المبلغ عنها مهمة لأن الذكاء الاصطناعي العسكري المفيد يعتمد بشكل كبير على البيانات التي تعكس ظروف التشغيل الحقيقية. قد تحتوي مجموعة البيانات التي تم جمعها خلال حرب شديدة الحدة على أمثلة صعبة غائبة عن المعايير المختبرية العادية، بما في ذلك الطقس المتنوع والتضاريس المتغيرة والتمويه والمعدات التالفة والأشياء غير المألوفة. وإذا تمكن الباحثون البريطانيون من تدريب أو تقييم الأنظمة على تلك المواد دون تلقي قواعد البيانات الحساسة الأساسية، فإن هذا الترتيب يمكن أن يوفر نموذجا للتعاون الخاضع للرقابة بين الحكومات والمؤسسات البحثية. تشير Technology.org إلى أن النظام الأساسي الأوكراني تم تصميمه لدعم التدريب النموذجي الآمن دون الوصول المباشر إلى قواعد البيانات الأساسية، لكن المصدر لا يتحقق بشكل مستقل من كيفية عمل هذه الحماية.
توضح الاتفاقية أيضًا كيف يمكن للخبرة في ساحة المعركة أن تشكل تطور الذكاء الاصطناعي. يربط الطيارون المذكورون بين جزأين مختلفين من مجموعة التكنولوجيا: الاستشعار والحوسبة. يمكن أن يساعد استشعار الألياف الضوئية في الكشف عن النشاط حول المنشآت العسكرية، في حين أن الرقائق منخفضة الطاقة يمكن أن تسمح للطائرات بدون طيار والأنظمة المستقلة بمعالجة المعلومات بالقرب من مكان جمعها. هذه مشاكل هندسية عملية، وليست مجرد أسئلة تتعلق بقدرة النموذج. وهي تنطوي على استخدام الطاقة، وموثوقية الاتصالات، ومتانة الأجهزة، وزمن الوصول، والصيانة، وعواقب التصنيفات غير الصحيحة.
إن المخاطر التي تتعلق بالمصلحة العامة مرتفعة بشكل غير عادي لأن البيانات المبلغ عنها مرتبطة بالاستهداف العسكري. يقول Technology.org إن المسؤولين الأوكرانيين وصفوا الهدف بأنه اكتشاف أسرع وقرارات مستنيرة أفضل بدلاً من إخراج البشر من الحلقة. ولا توضح هذه النية المعلنة في حد ذاتها كيفية استخدام الأنظمة في الممارسة العملية. إن الأداة التي تحدد الأشياء أو تعطي الأولوية للتنبيهات أو توصي باتخاذ إجراءات لا يزال بإمكانها التأثير على القرارات المميتة حتى عندما يحتفظ الإنسان بالسلطة رسميًا. ولا يصف المصدر المستوى المطلوب من المراجعة البشرية، أو التسلسل القيادي، أو قواعد المخرجات المتنازع عليها، أو إجراءات تصحيح الأخطاء.
قد يؤثر التعاون المذكور أيضًا على العلاقة بين أبحاث الدفاع وتطوير الذكاء الاصطناعي المدني. يرى Technology.org أن استشعار الألياف الضوئية والاستدلال منخفض الطاقة يمكن أن يكون لهما تطبيقات في مراقبة البنية التحتية الحيوية وحوسبة الحافة. وهذه التداعيات المحتملة هي مجالات معقولة للمتابعة، لكن التقرير لا يقدم أي عمليات نشر مدنية أو اختبارات أداء أو اتفاقيات تجارية. وبالتالي فإن الأهمية المباشرة هي نقل البيانات التشغيلية والخبرة والقدرة الهندسية إلى برنامج دفاعي مشترك للذكاء الاصطناعي، بدلاً من تحقيق فائدة مدنية مثبتة.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
ماذا تشاهد بعد ذلك
وتتمثل الاختبارات الرئيسية في ما إذا كانت الشراكة تنتج نماذج تجريبية موصوفة علنًا، وكيف يتم التحكم في الوصول إلى البيانات الحساسة، وما إذا كان أداء الكشف عن الهدف المبلغ عنه يظل خارج الظروف التي تم تطوير النماذج فيها. لا يحدد المصدر الضمانات الكاملة للاتفاقية أو قواعد النشر أو نتائج التقييم المستقل.
القضية الأولى التي يجب مراقبتها هي ما إذا كانت أي من الحكومتين تنشر وصفاً أكثر وضوحاً لإدارة الاتفاقية. تشمل الأمور المجهولة المهمة من يمكنه الوصول إلى المنصة، وما إذا كان بإمكان الباحثين البريطانيين إزالة النماذج المدربة أو مجموعات البيانات المشتقة، وكيفية تنقيح الأمثلة الحساسة، وما إذا كان الوصول يقتصر على المؤسسات المعتمدة. يقول المصدر إن نص الاتفاقية الكامل والنطاق التجريبي متاحان في إعلان حكومي، لكن النص المقدم هنا لا يحدد هذه الأحكام بشكل مستقل.
المسألة الثانية هي التحقق الفني. من المحتمل أن يكون الرقم المعلن عنه والذي يبلغ حوالي 70% من تحديد الهدف عبر أكثر من 100.000 مقطع فيديو شهريًا مهمًا، ولكنه ليس كافيًا لتقييم السلامة أو الفائدة التشغيلية. ينبغي أن تسعى تقارير المتابعة إلى الحصول على تعريفات للفئات المستهدفة، ومعدلات الإيجابية الكاذبة والسلبية الكاذبة، والأداء عبر الطقس والتضاريس، وحصة الأعلاف التي استعرضها البشر، وما إذا تم قياس النتائج بأثر مستقبلي أو بأثر رجعي. ويجب أيضًا توضيح ما إذا كان هذا الرقم ينطبق على الاكتشاف فقط أم على سير عمل استهداف أكبر.
المسألة الثالثة هي الحدود بين دعم القرار والاستقلالية. يمكن للطيار ذو الرقاقة المنخفضة الطاقة أن يسهل تشغيل الذكاء الاصطناعي مباشرة على الطائرات بدون طيار أو غيرها من الأنظمة المستقلة، مما يقلل الاعتماد على الاتصالات عن بعد. وقد يؤدي ذلك إلى تحسين القدرة على الصمود وزمن الاستجابة، ولكنه يمكن أن يزيد أيضا من سرعة وحجم القرارات المتخذة في ظل عدم اليقين. ولم يذكر المصدر أن الشراكة ستسمح باستخدام الأسلحة المستقلة، كما أنه لم يصف أي نشر محدد للأسلحة. ولا ينبغي للتقارير أن تستنتج أياً من النتيجتين من وجود الطيار.
وأخيراً، يتعين على المراقبين أن يراقبوا الأدلة التي تؤكد أن الشراكة تسفر عن نتائج ملموسة بدلاً من أن تظل مجرد اتفاق إطاري. تشمل التحديثات المفيدة المؤسسات المسماة، وبروتوكولات التقييم المنشورة، وقرارات الشراء أو النشر، والإخفاقات الموثقة، وعمليات التدقيق المستقلة، وتفسيرات لكيفية تحدي المشغلين لمخرجات النموذج أو تجاوزها. كما يترك المصدر من غير الواضح ما إذا كان الوصول المعلن عنه قيد التشغيل بالفعل للباحثين البريطانيين أم أنه مشروط بموافقات لاحقة. وإلى أن تتم الإجابة على هذه الأسئلة، من الأفضل فهم الاتفاقية على أنها تعاون مترتب على نطاق كبير تم الإبلاغ عنه، وليس كدليل على أن أنظمة الذكاء الاصطناعي في ساحة المعركة موثوقة أو آمنة.