Какво стана
Technology.org съобщава, че министър-председателят Анди Бърнам и президентът Володимир Зеленски подписаха партньорство между Обединеното кралство и Украйна в Киев, фокусирано върху разработването на инструменти за изкуствен интелект за отбрана и сигурност. В доклада се казва, че Великобритания е първият международен партньор, получил достъп до Avengers AI Labs в Украйна, който използва данни от бойното поле, свързани със системата DELTA.
Technology.org съобщава, че Великобритания и Украйна подписаха партньорство в понеделник за съвместно разработване на инструменти с изкуствен интелект за отбрана и сигурност. Докладът идентифицира Анди Бърнам и Володимир Зеленски като подписалите и казва, че споразумението дава на британските изследователи достъп до украинска платформа за данни на бойното поле, използвана за обучение на военни системи за изкуствен интелект. Technology.org представя Великобритания като първия международен партньор, получил достъп до Avengers AI Labs. Тези подробности идват от вторичния доклад и не са независимо потвърдени в предоставения тук материал.
Technology.org казва, че Avengers Labs е изградена около анотиран набор от данни от около 5 милиона изображения на бойни полета, извлечени до голяма степен от украинската DELTA система за управление на бойното поле и ситуационна осведоменост. В доклада се казва, че платформата получава материал от хиляди камери за дневна светлина и инфрачервени сензори, разположени на фронтовата линия. Съобщените обекти включват танкове, артилерия, системи за противовъздушна отбрана, пехота и въздушни цели като дронове Shahed и разузнавателни безпилотни летателни апарати. Докладът характеризира набора от данни като материал от реално бойно поле, а не като симулирани, изчерпани или синтетични данни.
В доклада се казва още, че моделите, обучени на данните, вече работят с автоматизирана система за откриване на цели, обработваща повече от 100 000 видео емисии от дрон всеки месец. Technology.org съобщава, че системата идентифицира около 70% от вражеските цели в реално време. Тази формулировка не установява какво означава оперативно „идентифицира“, как е изчислен процентът, какви видове цели са включени или дали цифрата представлява прецизност, припомняне или друга мярка. В източника не са предоставени резултати от независими тестове, методология или записи за внедряване.
Според Technology.org, партньорството започва с два пилотни проекта. Едната ще изследва оптичните кабели като сензори с AI за защита на военни съоръжения. Другият ще изследва чипове с изкуствен интелект с ниска мощност за дронове и автономни системи, като се занимава с изчислителните и енергийните ограничения, които ограничават автономността на борда. Докладът поставя споразумението в рамките на по-широкото 100-годишно партньорство между Обединеното кралство и Украйна и казва, че обединява университети, изследователи, технологични компании, инженери и военни експерти. Той също така описва отделно британско решение да позволи на MBDA да публикува класифицирана информация за компоненти, използвани в крилатите ракети SCALP, така че производствените линии да могат да бъдат установени в Украйна.
Детайли за източника: technology.org ↗
Защо има значение
Ако докладваните цифри и споразумението за достъп са точни, споразумението ще даде на британските изследователи необичайно пряк достъп до оперативни военни данни за разработване на AI. Той също така повдига практически въпроси относно оценката на модела, човешкия контрол, управлението на данните и използването на набори от данни, получени от битка, в бъдещи автономни системи.
Докладваното споразумение за достъп е от значение, тъй като полезният военен AI зависи до голяма степен от данни, които отразяват реалните условия на работа. Набор от данни, събран по време на война с висок интензитет, може да съдържа трудни примери, които липсват в обикновените лабораторни показатели, включително променливо време, променящ се терен, камуфлаж, повредено оборудване и непознати обекти. Ако британски изследователи могат да обучават или оценяват системи върху този материал, без да получават основните чувствителни бази данни, споразумението може да осигури модел за контролирано сътрудничество между правителствата и изследователските институции. Technology.org съобщава, че платформата на Украйна е проектирана да поддържа сигурно обучение по модели без директен достъп до основните бази данни, но източникът не проверява независимо как работи тази защита.
Споразумението също така илюстрира как опитът на бойното поле може да оформи развитието на ИИ. Докладваните пилоти свързват две различни части от технологичния стек: сензори и изчисления. Фиброоптичното наблюдение може да помогне за откриване на активност около военни съоръжения, докато чиповете с ниска мощност могат да позволят на дронове и автономни системи да обработват информация по-близо до мястото, където се събира. Това са практически инженерни проблеми, а не просто въпроси на възможностите на модела. Те включват използване на енергия, надеждност на комуникациите, издръжливост на хардуера, латентност, поддръжка и последствията от неправилни класификации.
Залогът на обществения интерес е необичайно висок, тъй като докладваните данни са свързани с военни цели. Technology.org казва, че украинските служители са описали целта като по-бързо откриване и по-добре информирани решения, вместо премахване на хората от цикъла. Това заявено намерение само по себе си не показва как системите се използват на практика. Инструмент, който идентифицира обекти, дава приоритет на предупрежденията или препоръчва действия, все още може да повлияе на смъртоносни решения, дори когато човек официално запазва властта. Източникът не описва необходимото ниво на човешки преглед, командната верига, правила за оспорвани резултати или процедури за коригиране на грешки.
Съобщаваното сътрудничество може също да повлияе на връзката между научните изследвания в областта на отбраната и развитието на гражданския ИИ. Technology.org твърди, че фиброоптичното отчитане и изводите с ниска мощност могат да имат приложения в мониторинга на критична инфраструктура и периферните изчисления. Тези възможни странични ефекти са правдоподобни области за последващи действия, но докладът не предоставя цивилни разполагания, тестове за ефективност или споразумения за комерсиализация. Следователно непосредственото значение е прехвърлянето на оперативни данни, опит и инженерен капацитет в съвместна програма за отбрана и изкуствен интелект, а не демонстрирана гражданска полза.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Какво да гледате след това
Ключовите тестове са дали партньорството произвежда публично описани пилотни проекти, как се управлява достъпът до чувствителни данни и дали докладваното представяне на откриване на цели се запазва извън условията, в които са разработени моделите. Източникът не установява пълните предпазни мерки на споразумението, правилата за внедряване или резултатите от независима оценка.
Първият въпрос, който трябва да се следи, е дали някое от правителството публикува по-ясен отчет за управлението на споразумението. Важни неизвестни включват кой има достъп до платформата, дали британските изследователи могат да премахват обучени модели или извлечени набори от данни, как се редактират чувствителните примери и дали достъпът е ограничен до одобрени институции. Източникът казва, че пълният текст на споразумението и пилотният обхват са достъпни в правителствено съобщение, но предоставеният тук текст не установява самостоятелно тези разпоредби.
Вторият проблем е техническото валидиране. Отчетената цифра от приблизително 70% идентификация на целите в повече от 100 000 месечни видео емисии е потенциално значителна, но не е достатъчна за оценка на безопасността или оперативната полезност. Последващият доклад трябва да търси дефиниции на целевите класове, фалшиво положителни и фалшиво отрицателни проценти, представяне при различни метеорологични условия и терен, дял на фуражите, прегледани от хора, и дали резултатите са измерени проспективно или ретроспективно. Трябва също така да се изясни дали фигурата се отнася само за откриване или за по-голям работен процес за насочване.
Третият въпрос е границата между подкрепата за вземане на решения и автономията. Пилотният чип с ниска мощност може да улесни пускането на AI директно на дронове или други автономни системи, намалявайки зависимостта от отдалечени комуникации. Това може да подобри устойчивостта и времето за реакция, но също така може да увеличи скоростта и мащаба на решенията, взети при несигурност. Източникът не казва, че партньорството ще разреши автономни оръжия, нито описва някакво конкретно разполагане на оръжие. Докладването не трябва да прави заключение за нито един резултат от съществуването на пилотния проект.
И накрая, наблюдателите трябва да следят за доказателства, че партньорството дава конкретни резултати, вместо да остане рамково споразумение. Полезните актуализации ще включват посочени институции, публикувани протоколи за оценка, решения за обществени поръчки или внедряване, документирани повреди, независими одити и обяснения за това как операторите оспорват или отменят резултатите от модела. Източникът също оставя неясно дали докладваният достъп вече е действащ за британски изследователи или зависи от по-късни одобрения. Докато не се отговори на тези въпроси, споразумението се разбира най-добре като последващо сътрудничество със значителен докладван обхват, а не като доказателство, че системите за ИИ на бойното поле са надеждни или безопасни.