Co się stało
Senatorowie Demokratów wysłali list do sekretarza obrony Pete'a Hegsetha i DNI Jaya Claytona, żądając natychmiastowego dochodzenia w sprawie błędów wywiadu wojskowego związanych ze sztuczną inteligencją.
Według news.meaww.com grupa senatorów Demokratów, w tym Mark Warner, Jack Reed i Chris Coons, napisała 19 września do sekretarza obrony Pete'a Hegsetha i dyrektora wywiadu narodowego Jaya Claytona. W piśmie żąda się natychmiastowego dochodzenia przez odpowiednich inspektorów generalnych w sprawie szeregu błędów w amerykańskich planach celowania wojskowego spowodowanych sztuczną inteligencją.
Senatorowie przytoczyli konkretny incydent, podczas którego po amerykańskiej armii rozesłano raport obrony, w którym stwierdzono, że chińskie statki przewoziły na Bliskim Wschodzie elementy programu broni nuklearnej. W piśmie argumentuje się, że agencje przedłożyły przyspieszenie wdrażania i eksperymentowania w zakresie możliwości sztucznej inteligencji nad skutecznym zarządzaniem.
Źródło zauważa, że CNN wcześniej informowało, że analityk dowództwa operacji specjalnych polegał na sztucznej inteligencji przy sporządzaniu tego raportu wywiadowczego, który został opisany jako „całkowicie fałszywy”. Raport skłonił armię amerykańską do przygotowania operacji mającej na celu przechwycenie statków. Urzędnicy odkryli, że raport został wygenerowany przez sztuczną inteligencję i był niedokładny dopiero wtedy, gdy operacja była już w toku, a w powietrzu znajdowały się samoloty wojskowe.
Udało się uniknąć incydentu, ale źródło cytuje wypowiedź jednej osoby, która stwierdziła, że sytuacja „prawie rozpoczęła wojnę”. Senatorowie wzywają do większego stopnia przejrzystości opinii publicznej w zakresie ostatecznych ustaleń, aby przywrócić zaufanie społeczne do misji wywiadowczych i bojowych.
Szczegóły źródła: news.meaww.com ↗
Dlaczego to ma znaczenie
Incydent uwydatnia krytyczne luki w bezpieczeństwie i zarządzaniu we wdrażaniu sztucznej inteligencji przez wojsko, w przypadku których zautomatyzowana analiza niemal doprowadziła do kinetycznej reakcji wojskowej opartej na fałszywych danych.
Wydarzenie to stanowi znaczną eskalację debaty na temat bezpieczeństwa sztucznej inteligencji w środowiskach o wysokim ryzyku związanych z bezpieczeństwem narodowym. Przenosi rozmowę z teoretycznych zagrożeń na udokumentowane ryzyko nieudanego zdarzenia z udziałem kinetycznych zasobów wojskowych.
Incydent podkreśla niebezpieczeństwo „stronniczości automatyzacji” w operacjach wojskowych, w których operatorzy mogą ufać informacjom wygenerowanym przez sztuczną inteligencję bez wystarczającej weryfikacji przez człowieka, zwłaszcza pod presją czasu.
Podkreśla niepowodzenie w zarządzaniu, w przypadku którego tempo wdrażania sztucznej inteligencji przewyższało rozwój niezbędnych mechanizmów nadzoru i sprawdzania błędów w Departamencie Obrony.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Odpowiedź Departamentu Obrony i zakres dochodzenia Generalnego Inspektora w sprawie protokołów zarządzania sztuczną inteligencją.
Oficjalna odpowiedź Departamentu Obrony i Wspólnoty Wywiadowczej na list senatorów.
Zakres i harmonogram dochodzenia Generalnego Inspektora, w szczególności to, czy będzie ono dotyczyć szerszych praktyk integracji sztucznej inteligencji w wojsku.
Potencjalne zmiany legislacyjne lub polityczne mające na celu nałożenie wymogów „” w zakresie informacji wywiadowczych generowanych przez sztuczną inteligencję wykorzystywanych przy podejmowaniu decyzji dotyczących ukierunkowania.