Dekoder zgłasza dostęp Wielkiej Brytanii do zbioru danych AI na polu bitwy oznaczonego na Ukrainie

Co się stało

The Decoder donosi, że Wielka Brytania stała się pierwszym obcym krajem, któremu przyznano dostęp do ukraińskiej platformy danych Avengers Labs w ramach dwustronnego partnerstwa w zakresie sztucznej inteligencji. Z raportu, powołując się na Financial Times, ministerstwo obrony Ukrainy i rząd brytyjski, wynika, że ​​zatwierdzone brytyjskie firmy mogą trenować i testować modele w bezpiecznym pomieszczeniu danych, korzystając z milionów oznaczonych obserwacji pola bitwy, podczas gdy uzyskana w ten sposób sztuczna inteligencja pozostaje na Ukrainie.

The Decoder donosi, że brytyjski premier Andy Burnham i prezydent Ukrainy Wołodymyr Zełenski podpisali w Kijowie partnerstwo w zakresie sztucznej inteligencji w ramach „100-letniego partnerstwa obu krajów”. Z raportu, cytując Financial Times, wynika, że ​​Wielka Brytania jest pierwszym obcym krajem, który uzyskał dostęp do ukraińskiej platformy danych Avengers Labs. Platforma podobno opiera się na milionach obserwacji z tysięcy kamer i czujników rozmieszczonych wzdłuż linii frontu Ukrainy. Obecne porozumienie różni się od starszych rozwiązań na polu bitwy opisanych w artykule; zgłoszonym nowym krokiem jest kontrolowany dostęp dla brytyjskich badaczy i firm technologicznych.

Według The Decoder, powołującego się na Ministerstwo Obrony Ukrainy, partnerstwo koncentruje się na zbiorze około pięciu milionów zdjęć z adnotacjami, z których większość pochodzi z cyfrowego systemu walki DELTA. W raporcie opisano DELTA jako połączenie informacji z dronów, satelitów i innych czujników w obraz pola bitwy w czasie rzeczywistym. Materiał podobno zawiera ręcznie oznakowane obrazy wykorzystywane do szkolenia systemów wizyjnych w zakresie klasyfikacji czołgów, dronów i artylerii. Dostępu nie określa się jako publicznego udostępnienia: mówi się, że zatwierdzone firmy pracują w zabezpieczonym pomieszczeniu danych zbudowanym częściowo przez Palantir, a gotowe systemy sztucznej inteligencji pozostają na Ukrainie.

The Decoder donosi, że trzy brytyjskie startupy – Sintela, Mind Foundry i Skyral – prowadzą już projekty pilotażowe, powołując się na rząd brytyjski. Z raportu wynika, że ​​jeden projekt wykorzystuje zakopane kable światłowodowe jako czujniki do ochrony baz wojskowych i potencjalnie lotnisk lub infrastruktury kolejowej, inny dotyczy chipów AI o małej mocy do dronów i systemów autonomicznych, a brytyjscy urzędnicy są szczególnie zainteresowani danymi akustycznymi do wykrywania nadlatujących rosyjskich dronów. Według doniesień ukraińskiego ministerstwa obrony polowy system wykrywania identyfikuje 70 procent sprzętu wroga w strumieniach wideo i przetwarza każdy obiekt w 2,2 sekundy. Liczby te, dokładny skład zbioru danych i wyniki pilotażu nie zostały niezależnie potwierdzone w dostarczonym źródle.

Szczegóły źródła: the-decoder.com ↗

Dlaczego to ma znaczenie

W ramach zgłoszonego porozumienia dane bojowe – a nie tylko obliczenia czy projekty modeli – stają się głównym zasobem strategicznym wojskowej sztucznej inteligencji. Obrazy i dane akustyczne pochodzące z pola bitwy na Ukrainie mogą pomóc brytyjskim firmom w opracowaniu systemów wykrywania sprzętu, identyfikacji nadlatujących dronów, wspierania autonomicznej nawigacji i poprawy możliwości związanych z namierzaniem. Porozumienie rodzi również istotne pytania dotyczące nadzoru, ochrony ludności cywilnej i granicy między atakami wspomaganymi a atakami wybieranymi maszynowo.

Relacja Dekodera ilustruje, dlaczego oznaczone, rzeczywiste dane mogą mieć takie samo znaczenie jak architektura modelu w wyspecjalizowanej sztucznej inteligencji. W raporcie cytuje się wypowiedź Miszy Nestora z ukraińskiej firmy Swarmer zajmującej się oprogramowaniem do dronów, która stwierdziła, że ​​wysokiej jakości oznakowane dane z pola bitwy stanowią główne ograniczenie w niezawodnym rozwoju systemów autonomicznych. W artykule wskazano, że ukraińskie firmy miały wcześniej przewagę, ponieważ zagraniczni konkurenci często w większym stopniu polegali na syntetycznych obrazach, które podobno radziły sobie gorzej w walce. Jest to porównanie podane w źródle, a nie niezależna ocena konkurencyjnych systemów.

Praktyczne znaczenie wykracza poza jeden kontrakt obronny. Jeśli zgłoszony model udostępniania danych sprawdzi się, może zapewnić sojuszniczym przedsiębiorstwom możliwość opracowania i przetestowania wojskowych systemów percepcyjnych w trudnych do odtworzenia warunkach: zakłócenia, zmieniający się teren, mieszane czujniki i aktywność przeciwnika. The Decoder donosi, że Wielka Brytania jest zainteresowana zastosowaniami od wykrywania dronów po nawigację i śledzenie celów. Takie możliwości mogłyby mieć wpływ na logistykę wojskową, ochronę baz i szybkość podejmowania decyzji na polu bitwy, zwiększając jednocześnie znaczenie operacyjne zarządzania danymi i bezpiecznych środowisk testowych.

Raport umieszcza także partnerstwo w kontekście bardziej konsekwentnego przejścia w stronę autonomii w systemach uzbrojenia. Rozróżnia nawigację autonomiczną, śledzenie ostatniej mili po wybraniu celu przez człowieka oraz autonomiczny wybór celu, w którym oprogramowanie wybiera, co zaatakować. Jak podaje Dekoder, pierwsze dwa etapy są już od jakiegoś czasu stosowane na Ukrainie i zarówno Rosja, jak i Ukraina testowały bardziej autonomiczne systemy. Zawartą w artykule relację z rosyjskiego ataku dronów, w wyniku którego rzekomo zginęło trzech cywilów, przypisuje się dziennikowi „New York Times” i ukraińskim śledczym; Sama obecność komputera Nvidia Jetson Orin nie dowodzi, że system podjął decyzję o namierzeniu celu. Szersze implikacje raportu są ważne, ale dowody na konkretne ataki autonomiczne pozostają ograniczone i kwestionowane.

Co obejrzeć dalej

Kluczowe niewiadome obejmują to, które brytyjskie firmy otrzymają dostęp do jakich danych, w jaki sposób partnerstwo reguluje testowanie i wdrażanie modeli, czy raportowane dane dotyczące wydajności podlegają niezależnej ocenie oraz jaka zgoda człowieka pozostaje wymagana do podejmowania śmiertelnych decyzji. W dalszej sprawozdawczości należy wyjaśnić gwarancje prawne, mechanizmy audytu i dowody leżące u podstaw roszczeń dotyczących operacji autonomicznych i szkód wśród ludności cywilnej.

Pierwszym priorytetem jest weryfikacja granic operacyjnych partnerstwa. The Decoder donosi, że zatwierdzone brytyjskie firmy mogą szkolić i testować w bezpiecznym pomieszczeniu danych, ale dostarczony artykuł nie określa zasad dostępu, limitów przechowywania danych, procedur przeglądu ani kontroli eksportu, które będą regulować tę pracę. Nie ustala również, czy wszystkie pięć milionów obrazów będzie dostępnych dla każdego uczestnika, czy nagrania akustyczne zawierają wrażliwe informacje o lokalizacji ani w jaki sposób Ukraina zapobiegnie wykorzystywaniu modeli przeszkolonych na podstawie danych do celów wykraczających poza uzgodnione misje.

Niezależne testy będą konieczne, aby ocenić zgłoszony współczynnik wykrywalności na poziomie 70 procent i czas przetwarzania wynoszący 2,2 sekundy. Liczbom tym brakuje zestawu ocen, wartości bazowych, podziału błędów i warunków operacyjnych niezbędnych do ich interpretacji. Ważne pytania dotyczą tego, jak często systemy nie uwzględniają obiektów cywilnych lub błędnie je klasyfikują, jak działają w warunkach zakłóceń lub słabej widoczności, czy wyniki wykraczają poza teren Ukrainy oraz czy operatorzy są w stanie wiarygodnie zrozumieć lub obejść wyniki modelu. W raporcie nie przedstawiono tych pomiarów, dlatego deklaracje dotyczące wyników należy traktować jako stwierdzenia przypisywane ministrowi obrony Ukrainy, a nie ustalone ustalenia.

Najpoważniejszym problemem jest odpowiedzialność, gdy sztuczna inteligencja przechodzi od wykrywania do wybierania celów. „Decoder” donosi, że Ukraina przetestowała w pełni autonomiczny system na okupowanym Krymie i że rosyjscy śledczy powiązali incydent ze śmiercią cywila z dronem, którego oprogramowanie mogło samodzielnie wybrać cel, zauważając jednocześnie, że dowody nie potwierdzają, że decyzję podjął sam komputer. W dalszej sprawozdawczości należy ustalić mające zastosowanie zasady zaangażowania, poziom upoważnienia człowieka, procedury dochodzeniowe po uderzeniu oraz ochronę ludności cywilnej. Powinno również wyjaśnić, czy brytyjscy piloci ograniczają się do wykrywania celów obronnych i ochrony infrastruktury, czy też mogą uczestniczyć w systemach wykorzystywanych do namierzania śmiercionośnych celów. Żadne z tych zabezpieczeń nie zostało szczegółowo opisane w dostarczonym raporcie.

Powiązane przewodniki i quizy