que paso
Anthropic publicó un informe que detalla los ataques de destilación a gran escala por parte de competidores chinos de IA. La compañía afirmó que Alibaba, Moonshot, DeepSeek, Zhipu y Xiaomi generaron colectivamente casi 190 millones de interacciones maliciosas con Claude de mayo a julio. Estos ataques implicaron enrutar consultas de usuarios destinadas a modelos nacionales a Claude para recopilar datos de entrenamiento, y Alibaba representó más de 151 millones de intercambios a través de 3500 cuentas fraudulentas.
Anthropic publicó un informe el jueves alegando que cinco importantes laboratorios chinos de IA (Alibaba, Moonshot, DeepSeek, Zhipu y Xiaomi) llevaron a cabo casi 190 millones de ataques de destilación contra su modelo Claude entre mayo y julio. Los ataques de destilación implican el uso de los resultados de modelos avanzados para entrenar otros menos avanzados, lo que permite efectivamente a los competidores aprovechar las capacidades patentadas de Anthropic sin colaboración directa.
El informe especifica que DeepSeek y Moonshot AI redirigieron las solicitudes de los usuarios destinadas a sus propios modelos a Claude. Anthropic recorded 23 million such reroutings by Moonshot and 12.1 million by DeepSeek over a 14-day period in July. Además, Anthropic afirmó que algunas de estas solicitudes exponían datos confidenciales, incluidas imágenes de CCTV de un usuario afiliado al EPL e información de una base de datos del gobierno ruso enviada por un contratista militar.
Alibaba fue identificada como el mayor infractor, con más de 151 millones de intercambios realizados por 3.500 cuentas fraudulentas. Estas cuentas llevaron a Claude a generar sus procesos de razonamiento, que luego se utilizaron para entrenar los modelos Qwen de Alibaba. Anthropic también acusó a Z.ai de un ataque similar y señaló que Xiaomi grabó los chats de los usuarios con sus modelos MiMo y los introdujo en Claude para generar datos de entrenamiento.
En respuesta a estas amenazas, Anthropic declaró que ha implementado nuevas salvaguardas para prohibir actividades sospechosas y reducir el detalle de las transcripciones de razonamiento para limitar su utilidad para entrenar otros modelos. La compañía también requerirá verificación de identidad para los usuarios que parezcan operar desde China, Rusia o Irán, regiones donde Claude no está disponible oficialmente. Los representantes de las empresas acusadas no respondieron a las consultas de Business Insider y Anthropic no proporcionó comentarios adicionales más allá del informe.
Detalles de la fuente: businessinsider.com ↗
Por qué es importante
Este incidente pone de relieve una importante vulnerabilidad de seguridad y propiedad intelectual en el panorama global de la IA. Al extraer transcripciones de razonamientos detallados, los competidores pueden acelerar el desarrollo de sus propios modelos de frontera, reduciendo potencialmente la brecha de capacidad con los laboratorios con sede en Estados Unidos. La exposición de datos gubernamentales y militares confidenciales durante estos ataques subraya aún más los riesgos del acceso no verificado a sistemas avanzados de inteligencia artificial, lo que llevó a Anthropic a implementar una verificación de identidad y restricciones de salida más estrictas.
La escala de estos ataques representa una transferencia sustancial de propiedad intelectual y ventaja computacional. Al extraer cadenas de razonamiento, los laboratorios chinos pueden reducir significativamente el tiempo y el costo necesarios para desarrollar modelos de frontera competitivos, desafiando el liderazgo tecnológico de las empresas de inteligencia artificial con sede en Estados Unidos.
La exposición de datos gubernamentales y militares confidenciales durante estas interacciones plantea serias preocupaciones de seguridad. It suggests that advanced AI systems may be vulnerable to data leakage through social engineering or fraudulent account creation, potentially compromising national security interests of multiple countries.
Este incidente puede acelerar la acción regulatoria con respecto al acceso al modelo de IA y la soberanía de los datos. Los legisladores de EE. UU. ya han pedido legislación para abordar tales ataques, y este informe proporciona evidencia concreta que podría influir en los debates políticos sobre los flujos transfronterizos de datos de IA y los controles de exportación.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
Why can ethical evaluation not be reduced to one model score?
Qué ver a continuación
Monitorear las respuestas legislativas en EE. UU. y China con respecto a la extracción de datos de IA y los flujos de datos transfronterizos. Esté atento a otras contramedidas técnicas de Anthropic y otros proveedores de IA para evitar la destilación del modelo. Observe si los laboratorios chinos acusados responden públicamente a las acusaciones o si auditorías independientes verifican la magnitud de la filtración de datos.
Avances legislativos en EE. UU. y China con respecto a la extracción de datos de IA, la destilación de modelos y la privacidad de datos transfronterizos. Estados Unidos puede introducir regulaciones más estrictas sobre el acceso a modelos de IA para entidades extranjeras, mientras que China puede responder con sus propias medidas de protección de datos.
Contramedidas técnicas de los proveedores de IA para prevenir ataques de destilación. Esto puede incluir una verificación de identidad más sólida, limitación de tasas y ofuscación de los resultados del modelo para reducir su utilidad para entrenar modelos competitivos.
Respuestas públicas de los laboratorios chinos de IA acusados. Una negación o una aclaración podría proporcionar un contexto adicional, mientras que el silencio puede interpretarse como una admisión tácita. También serían importantes las auditorías independientes o la verificación por parte de terceros de la escala del ataque.