Що сталося
Anthropic опублікував звіт, у якому стверджується, що китайські конкуренти зі штучного інтелекту, зокрема Kimi з Moonshot і DeepSeek, таємно направляли запити користувачів до моделі Claude Anthropic замість того, щоб обробляти їх за допомогою власного програмного забезпечення. У звіті детально описано використання 5380 підроблених облікових записів для полегшення цього перенаправлення протягом десятиденного періоду, що призвело до розкриття конфіденційних даних, включаючи записи з камер спостереження поблизу китайських військових об’єктів і дійсні облікові дані для входу в базу даних російського уряду.
Anthropic опублікував докладний звіт, в якому звинуватив китайських конкурентів зі штучним інтелектом у таємному перенаправленні запитів користувачів на свою модель Claude. Компанія заявила, що така практика мала місце, незважаючи на те, що користувачі вважали, що вони взаємодіють із вітчизняними китайськими службами ШІ.
У звіті зазначено, що служба Kimi від Moonshot використовувала мережу з 5380 підроблених облікових записів для направлення майже 300 000 запитів клієнтів до Claude протягом десяти днів. В одному з відомих випадків користувач завантажував відео з камер спостереження з околиць китайських військових баз, маючи намір проаналізувати поведінку конкретної людини, яке було оброблено Claude.
Anthropic також стверджував, що DeepSeek застосовував подібну практику, що призводило до перенаправлення запитів із даними від агентства, пов’язаного з міністерством оборони Росії. Це включало дійсні облікові дані для входу в базу даних російського уряду, які були випадково піддані системам Anthropic.
Крім того, у звіті стверджується, що китайські розробники використовували техніку, відому як дистиляція, щоб навчити свої моделі на американському програмному забезпеченні. Anthropic заявив, що з цією метою Kimi зверталася до свого ШІ 23 мільйони разів у період з травня по липень.
Чому це важливо
Цей інцидент підкреслює значні ризики для безпеки та цілісності в глобальній екосистемі штучного інтелекту, де залежність від моделей сторонніх розробників може призвести до ненавмисного витоку даних і геополітичних ускладнень. Він ставить під сумнів сприйняття китайських моделей штучного інтелекту як повністю незалежних і викликає питання щодо практик безпеки основних постачальників штучного інтелекту щодо використання API та ізоляції даних.
Ці звинувачення підривають наратив незалежного розвитку в китайському секторі штучного інтелекту, припускаючи значну залежність від американських моделей як для висновків, так і для навчання. Це має значні наслідки для конкурентного ландшафту та сприйнятої автономності можливостей китайського ШІ.
Оприлюднення конфіденційних державних даних, у тому числі записів військового спостереження та облікових даних урядової бази даних, викликає серйозні занепокоєння щодо безпеки. Це демонструє потенціал витоку даних, коли служби ШІ не ізольовані належним чином або коли користувачі не знають про базову інфраструктуру.
Цей інцидент може спричинити посилення правил і перевірок безпеки в індустрії ШІ, зокрема щодо транскордонних потоків даних і використання моделей сторонніх розробників у комерційних службах ШІ. Це також підкреслює необхідність прозорого звітування про використання моделі та практики обробки даних.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Слідкуйте за офіційними відповідями від Moonshot і DeepSeek, потенційними регуляторними розслідуваннями щодо транскордонних потоків даних штучного інтелекту та будь-якими змінами в протоколах безпеки API основними постачальниками штучного інтелекту для запобігання неавторизованій маршрутизації моделі.
Слідкуйте за офіційними заявами чи судовими діями від Moonshot і DeepSeek у відповідь на звинувачення Anthropic. Їхня реакція покаже, чи визнають вони проблеми чи заперечують висновки.
Слідкуйте за будь-якими регулятивними відповідями органів влади США чи Китаю щодо наслідків використання транскордонної моделі ШІ для безпеки та конфіденційності даних. Це може призвести до нових інструкцій або обмежень щодо потоків даних ШІ.
Відстежуйте зміни в заходах безпеки API основних постачальників штучного інтелекту, таких як Anthropic і OpenAI, щоб запобігти неавторизованій маршрутизації або дистиляції. Розширена автентифікація та моніторинг використання API можуть стати стандартною практикою.