무슨 일이 일어났나요?
Anthropic는 중국 AI 경쟁사, 특히 Moonshot의 Kimi 및 DeepSeek가 사용자 쿼리를 자체 소프트웨어로 처리하는 대신 비밀리에 Anthropic의 Claude 모델로 라우팅했다고 주장하는 보고서를 발표했습니다. 보고서에는 10일 동안 이러한 리디렉션을 촉진하기 위해 5,380개의 가짜 계정을 사용하여 중국 군사 기지 근처의 감시 영상과 러시아 정부 데이터베이스의 유효한 로그인 자격 증명을 포함한 민감한 데이터가 노출되었다고 자세히 설명되어 있습니다.
Anthropic는 중국 AI 경쟁업체가 사용자 요청을 Claude 모델로 비밀리에 리디렉션하고 있다고 비난하는 자세한 보고서를 발표했습니다. 회사는 사용자들이 중국 국내 AI 서비스와 상호 작용하고 있다고 믿었음에도 불구하고 이러한 관행이 발생했다고 밝혔습니다.
보고서에는 Moonshot의 Kimi 서비스가 5,380개의 가짜 계정 네트워크를 사용하여 10일 동안 약 300,000개의 고객 쿼리를 Claude로 라우팅했다고 명시되어 있습니다. 주목할만한 사례 중 하나는 사용자가 특정 개인의 행동을 분석하기 위해 중국 군사 기지 근처에서 감시 영상을 업로드한 것과 관련이 있으며, 이는 Claude에 의해 처리되었습니다.
Anthropic는 또한 DeepSeek가 유사한 관행에 참여하여 러시아 국방부 관련 기관의 데이터가 포함된 쿼리를 리디렉션했다고 주장했습니다. 여기에는 Anthropic 시스템에 실수로 노출된 러시아 정부 데이터베이스의 유효한 로그인 자격 증명이 포함되었습니다.
또한 보고서는 중국 개발자가 미국 소프트웨어에서 모델을 훈련시키기 위해 증류라는 기술을 사용했다고 주장합니다. Anthropic는 Kimi가 이 목적으로 5월부터 7월 사이에 AI에 2,300만 번 액세스했다고 밝혔습니다.
왜 중요한가요?
이 사건은 제3자 모델에 의존하면 의도하지 않은 데이터 유출과 지정학적 합병증으로 이어질 수 있는 글로벌 AI 생태계의 심각한 보안 및 무결성 위험을 강조합니다. 이는 중국 AI 모델이 완전히 독립적이라는 인식에 도전하고 API 사용 및 데이터 격리와 관련하여 주요 AI 제공업체의 보안 관행에 대한 의문을 제기합니다.
이러한 주장은 중국 AI 부문의 독립적인 개발 내러티브를 약화시켜 추론과 훈련 모두 미국 기반 모델에 크게 의존하고 있음을 시사합니다. 이는 경쟁 구도와 중국 AI 역량의 인지된 자율성에 중요한 영향을 미칩니다.
군사 감시 영상, 정부 데이터베이스 자격 증명 등 민감한 국가 데이터가 노출되면 심각한 보안 문제가 발생합니다. 이는 AI 서비스가 제대로 격리되지 않거나 사용자가 기본 인프라를 인식하지 못하는 경우 데이터 유출 가능성을 보여줍니다.
이번 사건으로 인해 AI 업계, 특히 국경을 넘는 데이터 흐름과 상용 AI 서비스의 제3자 모델 사용과 관련하여 더욱 엄격한 규제와 보안 감사가 촉발될 수 있습니다. 또한 모델 사용 및 데이터 처리 관행에 대한 투명한 보고의 필요성을 강조합니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
Why can ethical evaluation not be reduced to one model score?
다음에 무엇을 볼 것인가
Moonshot 및 DeepSeek의 공식 답변, 국경 간 AI 데이터 흐름에 대한 잠재적 규제 조사, 무단 모델 라우팅을 방지하기 위한 주요 AI 제공업체의 API 보안 프로토콜 변경 사항을 살펴보세요.
Anthropic의 주장에 대한 Moonshot 및 DeepSeek의 공식 성명이나 법적 조치를 모니터링하세요. 그들의 반응은 그들이 문제를 인정하는지 아니면 조사 결과에 이의를 제기하는지를 나타냅니다.
국경 간 AI 모델 사용의 보안 및 데이터 개인 정보 보호 영향과 관련하여 미국 또는 중국 당국의 규제 대응을 관찰하십시오. 이로 인해 AI 데이터 흐름에 대한 새로운 지침이나 제한이 발생할 수 있습니다.
Anthropic 및 OpenAI와 같은 주요 AI 제공업체의 API 보안 조치 변경 사항을 추적하여 무단 라우팅 또는 증류를 방지합니다. API 사용에 대한 향상된 인증 및 모니터링이 표준 관행이 될 수 있습니다.