Что случилось
Anthropic опубликовал отчет, в котором утверждается, что китайские конкуренты в области искусственного интеллекта, в частности Кими из Moonshot и DeepSeek, тайно направляли пользовательские запросы на модель Claude Anthropic вместо обработки их с помощью собственного программного обеспечения. В отчете подробно описано использование 5380 фейковых учетных записей для облегчения этого перенаправления в течение десяти дней, что привело к раскрытию конфиденциальных данных, включая кадры наблюдения возле китайских военных объектов и действительные учетные данные для входа в базу данных правительства России.
Anthropic опубликовал подробный отчет, в котором обвинил китайских конкурентов в области ИИ в тайном перенаправлении запросов пользователей на свою модель Claude. Компания заявила, что такая практика имела место, несмотря на то, что пользователи считали, что взаимодействуют с внутренними китайскими службами искусственного интеллекта.
В отчете указывается, что служба Kimi компании Moonshot использовала сеть из 5380 фейковых учетных записей для направления почти 300 000 запросов клиентов на Claude за десятидневный период. Одним из примечательных случаев был случай, когда пользователь загружал записи наблюдения в окрестностях китайских военных баз, намереваясь проанализировать поведение конкретного человека, которые были обработаны Claude.
Anthropic также утверждал, что DeepSeek применял аналогичную практику, что привело к перенаправлению запросов, содержащих данные, от агентства, связанного с Министерством обороны России. В их число входили действительные учетные данные для входа в базу данных правительства России, которые случайно были доступны системам Anthropic.
Кроме того, в отчете утверждается, что китайские разработчики использовали метод, известный как дистилляция, для обучения своих моделей на американском программном обеспечении. Anthropic заявил, что Кими с этой целью обращался к своему искусственному интеллекту 23 миллиона раз в период с мая по июль.
Подробности об источнике: spiegel.de ↗
Почему это важно
Этот инцидент подчеркивает значительные риски безопасности и целостности в глобальной экосистеме искусственного интеллекта, где использование сторонних моделей может привести к непреднамеренной утечке данных и геополитическим осложнениям. Это бросает вызов восприятию китайских моделей ИИ как полностью независимых и поднимает вопросы о методах безопасности основных поставщиков ИИ в отношении использования API и изоляции данных.
Обвинения подрывают мнение о независимом развитии в китайском секторе искусственного интеллекта, предполагая, что они в значительной степени полагаются на американские модели как для вывода, так и для обучения. Это имеет серьезные последствия для конкурентной среды и воспринимаемой автономности китайских возможностей искусственного интеллекта.
Раскрытие конфиденциальных государственных данных, в том числе записей военного наблюдения и учетных данных правительственных баз данных, вызывает серьезные проблемы с безопасностью. Это демонстрирует возможность утечки данных, когда сервисы ИИ не изолированы должным образом или когда пользователи не знают о базовой инфраструктуре.
Этот инцидент может привести к ужесточению правил и аудиту безопасности в индустрии искусственного интеллекта, особенно в отношении трансграничных потоков данных и использования сторонних моделей в коммерческих службах искусственного интеллекта. Это также подчеркивает необходимость прозрачной отчетности об использовании моделей и методах обработки данных.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Следите за официальными ответами Moonshot и DeepSeek, возможными нормативными расследованиями трансграничных потоков данных ИИ и любыми изменениями в протоколах безопасности API со стороны основных поставщиков ИИ для предотвращения несанкционированной маршрутизации моделей.
Следите за официальными заявлениями или судебными исками со стороны Moonshot и DeepSeek в ответ на обвинения Anthropic. Их реакция покажет, признают ли они наличие проблем или оспаривают выводы.
Обратите внимание на любые нормативные ответы властей США или Китая относительно последствий для безопасности и конфиденциальности данных, связанных с трансграничным использованием модели искусственного интеллекта. Это может привести к новым рекомендациям или ограничениям на потоки данных ИИ.
Отслеживайте изменения в мерах безопасности API основных поставщиков ИИ, таких как Anthropic и OpenAI, чтобы предотвратить несанкционированную маршрутизацию или переработку. Расширенная аутентификация и мониторинг использования API могут стать стандартной практикой.