Что случилось
Сенаторы-демократы направили письмо министру обороны Питу Хегсету и министру обороны Джею Клейтону с требованием немедленного расследования ошибок, связанных с искусственным интеллектом, в военной разведке.
По данным news.meaww.com, группа сенаторов-демократов, в том числе Марк Уорнер, Джек Рид и Крис Кунс, 19 сентября написала министру обороны Питу Хегсету и директору Национальной разведки Джею Клейтону письмо. В письме содержится требование о немедленном расследовании соответствующими генеральными инспекторами серии ошибок в военных планах США по нацеливанию, вызванных искусственным интеллектом.
Сенаторы привели конкретный инцидент, когда в вооруженных силах США был распространен отчет Министерства обороны, в котором утверждалось, что китайские корабли перевозили компоненты программы ядерного оружия на Ближнем Востоке. В письме утверждается, что агентства отдают приоритет ускорению внедрения возможностей искусственного интеллекта и экспериментированию над эффективным управлением.
Источник отмечает, что CNN ранее сообщал, что аналитик командования специальных операций полагался на искусственный интеллект для создания этого разведывательного отчета, который был назван «полностью ложным». Сообщение побудило американских военных подготовиться к операции по перехвату судов. Чиновники обнаружили, что отчет был сгенерирован искусственным интеллектом и неточен только тогда, когда операция уже шла с военными самолетами в воздухе.
Инцидент удалось предотвратить, но источник цитирует слова одного человека, который сказал, что ситуация «чуть не привела к войне». Сенаторы призывают к более высокой степени общественной прозрачности окончательных выводов, чтобы восстановить доверие общества к разведывательным и боевым миссиям.
Подробности об источнике: news.meaww.com ↗
Почему это важно
Инцидент подчеркивает критические пробелы в безопасности и управлении при внедрении ИИ в вооруженных силах, когда автоматический анализ чуть не привел к быстрому военному ответу, основанному на ложных данных.
Это событие представляет собой значительную эскалацию дебатов о безопасности ИИ в условиях национальной безопасности, где ставки высоки. Это переводит разговор с теоретических рисков на задокументированную ситуацию, связанную с кинетическими военными средствами.
Этот инцидент подчеркивает опасность «предвзятости автоматизации» в военных операциях, когда операторы могут доверять разведданным, созданным ИИ, без достаточной проверки со стороны человека, особенно в условиях нехватки времени.
Это подчеркивает провал управления, когда скорость внедрения ИИ опережала разработку необходимых механизмов надзора и проверки ошибок в Министерстве обороны.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Ответ Министерства обороны и объем расследования генерального инспектора протоколов управления ИИ.
Официальный ответ Минобороны и разведывательного сообщества на письмо сенаторов.
Объем и сроки расследования генерального инспектора, в частности, будет ли оно изучать более широкую практику интеграции искусственного интеллекта в вооруженных силах.
Потенциальные изменения в законодательстве или политике, направленные на введение требований к участию человека в процессе использования ИИ-аналитики, используемой при принятии решений о нацеливании.