何が起こったのか
Anthropic は、中国の AI 競合企業による大規模な蒸留攻撃を詳述したレポートを発表しました。同社は、Alibaba、Moonshot、DeepSeek、Zhipu、Xiaomi が、5 月から 7 月にかけて Claude との悪意のあるインタラクションを合計で 1 億 9,000 万件近く生成したと発表しました。これらの攻撃には、国内モデルを対象としたユーザーのクエリを Claude にルーティングしてトレーニング データを収集することが含まれており、アリババは 3,500 の不正アカウントを介して 1 億 5,100 万以上の取引を行っていました。
Anthropicは木曜、中国の大手AI研究所5社（アリババ、ムーンショット、DeepSeek、Zhipu、シャオミ）が5月から7月にかけて同社のClaudeモデルに対して1億9000万件近い蒸留攻撃を行ったと主張する報告書を発表した。蒸留攻撃には、高度なモデルの出力を使用して高度でないモデルをトレーニングすることが含まれており、競合他社が直接協力することなく Anthropic の独自機能を効果的に活用できるようになります。
このレポートでは、DeepSeek および Moonshot AI が、独自のモデルを対象としたユーザー リクエストを Claude に再ルーティングしたと指定しています。 Anthropic は、7 月の 14 日間で、Moonshot によってそのようなルート変更が 2,300 万件、DeepSeek によって 1,210 万件を記録しました。さらに、Anthropicは、これらの要求の一部で、人民解放軍関連ユーザーからの監視カメラ映像や軍事請負業者から提出されたロシア政府データベースの情報などの機密データが暴露されたと主張した。
アリババが最大の犯罪者として特定され、3,500の不正アカウントによって1億5,100万件を超える取引が行われた。これらのアカウントにより、Claude は推論プロセスを出力し、それがアリババの Qwen モデルのトレーニングに使用されました。 Anthropicも同様の攻撃でZ.aiを告発し、XiaomiがMiMoモデルでユーザーチャットを記録し、それをClaudeに入力してトレーニングデータを生成したと指摘した。
これらの脅威に対応して、Anthropic は、不審なアクティビティを禁止し、他のモデルのトレーニングへの有用性を制限するために推論トランスクリプトの詳細を削減するための新しい安全策を実装したと述べました。同社はまた、Claudeが正式に利用できない中国、ロシア、イランなどの地域から操作していると思われるユーザーに対しても身元確認を要求する予定だ。告発された企業の代表者はBusiness Insiderの問い合わせに応じておらず、Anthropicも報告書以外の追加コメントはなかった。
なぜそれが重要なのか
この事件は、世界の AI 環境におけるセキュリティと知的財産の重大な脆弱性を浮き彫りにしました。詳細な推論トランスクリプトを抽出することで、競合他社は独自のフロンティアモデルの開発を加速でき、米国に拠点を置く研究所との能力差を縮めることができる可能性があります。これらの攻撃で政府および軍事の機密データが暴露されたことは、高度な AI システムへの未検証のアクセスのリスクをさらに浮き彫りにし、Anthropic はより厳格な本人確認と出力制限の導入を促しました。
これらの攻撃の規模は、知的財産と計算上の利点が大幅に移転されることを意味します。中国の研究所は推論チェーンを抽出することで、競争力のあるフロンティアモデルの開発に必要な時間とコストを大幅に削減でき、米国に本拠を置くAI企業が持つ技術的リードに挑戦できる。
こうしたやり取り中に政府と軍事の機密データが暴露されると、安全保障上の重大な懸念が生じます。これは、高度な AI システムがソーシャル エンジニアリングや不正なアカウント作成によるデータ漏洩に対して脆弱である可能性があり、複数の国の国家安全保障上の利益を損なう可能性があることを示唆しています。
この事件により、AI モデルへのアクセスとデータ主権に関する規制措置が加速する可能性があります。米国の議員らはすでにこうした攻撃に対処するための法案の制定を求めており、今回の報告書は国境を越えたAIデータフローや輸出規制に関する政策議論に影響を与える可能性がある具体的な証拠を提供している。
インタラクティブなメカニズム: 実際にどのように機能するか
この開発の背後にある基盤となるテクノロジーをインタラクティブに探索します。
Why can ethical evaluation not be reduced to one model score?
次に見るべきもの
AI データ抽出と国境を越えたデータ フローに関する米国と中国の法的対応を監視します。モデルの蒸留を防ぐために、Anthropic や他の AI プロバイダーによるさらなる技術的対策に注目してください。告発された中国の研究所が告発に対して公的に反応するかどうか、あるいは独立した監査がデータ漏洩の規模を検証するかどうかを観察してください。
AI データ抽出、モデル抽出、国境を越えたデータ プライバシーに関する米国と中国の法整備。米国は外国企業のAIモデルへのアクセスに関してより厳格な規制を導入する可能性があり、一方中国は独自のデータ保護措置で対応する可能性がある。
蒸留攻撃を防ぐための AI プロバイダーによる技術的対策。これには、より堅牢な ID 検証、レート制限、モデル出力の難読化が含まれ、競合するモデルをトレーニングする際の有用性を減らすことができます。
告発された中国のAI研究所からの公開回答。否定または説明は追加の文脈を提供する可能性がありますが、沈黙は暗黙の承認として解釈される可能性があります。独立した監査や第三者による攻撃規模の検証も重要です。