무슨 일이 일어났나요?
Anthropic는 7개 위험 영역에서 Claude의 악의적인 사용을 설명하는 위협 인텔리전스 보고서를 게시했습니다. 회사는 의심되는 국가 지원 단체, 범죄자, 스파이웨어 공급업체, 선전 기관 및 정치적 동기가 있는 개인이 사이버 공격, 감시, 사기, 영향력 활동, 재래식 무기, 생물학적 오용 및 모델 증류와 관련된 작업에 Claude Haiku, Sonnet 및 Opus를 사용했다고 밝혔습니다. Anthropic는 활동을 방해하고 조사 결과를 사용하여 안전 장치를 개선했지만 보고서는 회사의 계정이므로 여기에서 독립적으로 확인되지 않았습니다.
Anthropic는 해당 활동이 2025년 12월부터 2026년 8월까지 발생했으며 Claude Haiku, Sonnet 및 Opus가 관련되어 있다고 밝혔습니다. 한 가지 불법 증류 사례를 제외하고는 Claude Fable 또는 Mythos급 모델과 관련된 오용 사례가 없다고 말합니다. 회사는 이러한 사례를 모든 오용을 대표하기보다는 특별히 주목할 만한 것으로 규정합니다.
이 보고서는 Claude 지원 워크플로를 사용하여 피싱, 인프라, 지속성, 데이터 유출 및 악성 코드 재개발을 관리한 것으로 의심되는 러시아 국가 연계 작전에 대해 설명합니다. Anthropic는 우크라이나와 유럽 정부, 외교, 국방, 드론 부문 조직을 포함해 20개 이상의 조직이 표적이 되었다고 밝혔습니다. 또한 호텔 Wi-Fi 제공업체, 메시징 계정, 카메라 스트리밍 시스템 및 정부 데이터베이스와 관련된 타협 혐의에 대해서도 설명합니다.
Anthropic는 ShinyHunters 집단의 계열사와 관련된 금전적 동기를 지닌 활동을 별도로 설명합니다. 회사는 한 운영자가 안드로이드 애플리케이션과 자격 증명의 수집 및 분석을 자동화했으며 관련 침입으로 인해 국가 식별자, 지불 카드 데이터 및 승객 기록이 노출된 것으로 알려졌습니다. 이는 Anthropic 보고서의 주장입니다. 소스는 제공된 텍스트에서 독립적인 법의학 검증을 제공하지 않습니다.
보고서에 따르면 Anthropic는 활동을 방해하고 안전 장치를 강화했으며 적절한 경우 당국 및 업계 파트너와 정보를 공유했습니다. 새로운 Claude 제품, 액세스 정책 또는 가격 변경을 발표하지 않습니다.
왜 중요한가요?
보고서의 핵심 주장은 AI가 복잡한 사이버 운영에 필요한 전문성, 노동력, 도구를 낮추고 있다는 것입니다. Anthropic에 따르면 공격자들은 정찰, 피싱, 악용, 데이터 절도 및 반복적인 악성 코드 수정을 위해 다중 에이전트 워크플로 내에서 Claude를 사용하여 일부 캠페인이 더 빠르고 더 많은 대상에 걸쳐 작동할 수 있도록 했습니다. 독립적으로 확증되면 공격자의 정교함은 덜 신뢰할 수 있는 속성 신호가 되고 방어자는 정적 탐지 방법을 뛰어넘도록 압력을 받게 됩니다.
실질적인 중요성은 보고된 모델 기능과 오케스트레이션의 조합입니다. Anthropic는 인간이 일반적으로 대상을 선택하고 도난당한 데이터를 검토하는 반면 AI 시스템은 정찰, 활용, 인프라 설정 및 모니터링의 일부를 처리한다고 말했습니다. 이러한 구별은 위협이 완전히 자율적인 해킹으로 제시되는 것이 아니라 캠페인을 유지하는 데 필요한 숙련된 인력과 시간의 감소로 제시되기 때문에 중요합니다.
Anthropic는 AI가 보안 제품이 도구를 탐지한 후 공격자가 도구를 반복적으로 변경하도록 도와 잠재적으로 기존 서명이 유효한 기간을 단축할 수 있다고 주장합니다. 따라서 보고서는 자격 증명 보호, 신속한 패치 적용, 행동 기반 탐지, 네트워크 분할 및 비정상적인 자동화 모니터링과 같은 계층형 제어가 더 중요하다고 지적합니다.
증거는 출처에 따라 제한됩니다. 출처는 모델이 사용된 것으로 알려진 회사에서 공개한 것이며, 유병률 연구보다는 엄선된 사례 연구를 제공합니다. Claude가 없었다면 보고된 피해 중 얼마나 많은 피해가 발생했을지, 모든 귀속 주장이 올바른지, 오용 시도를 방지하기 위한 보호 장치가 얼마나 자주 있는지는 확립되지 않습니다.
대화형 메커니즘: 실제로 작동하는 방식
이 개발의 이면에 있는 기본 기술을 대화식으로 살펴보세요.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
다음에 무엇을 볼 것인가
보고된 침입, 실제 피해자 피해 규모, 다른 AI 제공업체가 유사한 운영 패턴을 관찰하고 있는지 여부를 독립적으로 확인합니다. 이 보고서는 설명된 모든 작업이 Claude로 인해 성공했다는 사실을 입증하지 않으며 AI가 아닌 대안에 대한 Claude의 기여도를 정량화하지도 않습니다. 또한 새로운 사용자 대상 액세스, 가격 또는 가용성 변경 사항을 발표하지 않습니다.
독립적인 위협 인텔리전스 보고서, 피해자 공개 및 정부 조사를 통해 도난 데이터에 대한 Anthropic의 귀속 및 추정치를 확인하거나 이의를 제기할 수 있습니다. 우크라이나 조직, 드론 관련 공급망, 외교 시스템 및 정부 신원 데이터베이스를 표적으로 삼았다는 의혹에 특별한 주의를 기울여야 합니다.
보안팀은 자동화된 정찰, 자격 증명 남용, 급격한 인프라 변경 및 의심스러운 도구의 반복적인 수정을 제어 기능으로 탐지할 수 있는지 평가해야 합니다. 소식통의 실질적인 경고는 방어자가 알려진 악성 코드 서명에만 의존하기보다는 전체 캠페인에서 공격자의 행동을 측정해야 할 수도 있다는 것입니다.
추가 보고에서는 보고서 개요에 언급되었지만 제공된 발췌문에는 자세히 설명되지 않은 생물학적 오용 및 재래식 무기 사례를 명확히 할 수 있습니다. 또한 소스는 Anthropic가 AI 향상을 어떻게 측정했는지, 피해자가 영향을 받기 전에 얼마나 많은 작업이 중지되었는지, 설명된 보호 조치를 다른 개발자가 사용할 수 있는지 여부를 불분명하게 남겼습니다.