发生了什么
Anthropic 发布了一份报告,指控中国人工智能竞争对手,特别是 Moonshot 的 Kimi 和 DeepSeek,秘密地将用户查询路由到 Anthropic 的 Claude 模型,而不是用自己的软件处理它们。该报告详细介绍了在十天内使用 5,380 个虚假帐户来促进这种重定向,导致敏感数据曝光,包括中国军事地点附近的监控录像和俄罗斯政府数据库的有效登录凭据。
Anthropic 发布了一份详细报告,指责中国人工智能竞争对手秘密将用户请求重定向到其 Claude 模型。该公司表示,尽管用户认为他们正在与中国国内的人工智能服务进行交互,但这种做法还是发生了。
该报告指出,Moonshot 的 Kimi 服务在 10 天内使用由 5,380 个虚假帐户组成的网络将近 300,000 个客户查询路由到 Claude。一个值得注意的例子是,一名用户上传了中国军事基地附近的监控录像,旨在分析特定人员的行为,该录像经过 Claude 的处理。
Anthropic 还声称 DeepSeek 从事类似的做法,导致包含来自俄罗斯国防部相关机构的数据的查询被重定向。其中包括俄罗斯政府数据库的有效登录凭据,这些凭据无意中暴露给了 Anthropic 的系统。
此外,该报告还声称,中国开发人员使用一种称为蒸馏的技术在美国软件上训练他们的模型。 Anthropic 表示,Kimi 为此目的在 5 月至 7 月期间访问其 AI 2300 万次。
为什么这很重要
这一事件凸显了全球人工智能生态系统中的重大安全和完整性风险,对第三方模型的依赖可能会导致意外的数据泄露和地缘政治复杂化。它挑战了人们对中国人工智能模型完全独立的看法,并对主要人工智能提供商在 API 使用和数据隔离方面的安全实践提出了质疑。
这些指控破坏了中国人工智能领域独立发展的说法,表明其严重依赖美国的推理和训练模型。这对中国人工智能能力的竞争格局和自主意识具有重大影响。
敏感国家数据(包括军事监控录像和政府数据库凭证)的曝光引发了严重的安全问题。它展示了当人工智能服务未正确隔离或用户不了解底层基础设施时,数据泄露的可能性。
这一事件可能会促使人工智能行业更加严格的监管和安全审计,特别是关于跨境数据流动和商业人工智能服务中第三方模型的使用。它还强调需要对模型使用和数据处理实践进行透明报告。
互动机制:它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
关注 Moonshot 和 DeepSeek 的官方回应、对跨境 AI 数据流的潜在监管调查,以及主要 AI 提供商为防止未经授权的模型路由而对 API 安全协议进行的任何更改。
关注 Moonshot 和 DeepSeek 针对 Anthropic 指控的官方声明或法律行动。他们的反应将表明他们是否承认这些问题或对调查结果提出异议。
观察美国或中国当局对跨境人工智能模型使用的安全和数据隐私影响的任何监管回应。这可能会导致对人工智能数据流制定新的指导方针或限制。
跟踪主要AI提供商(例如Anthropic和OpenAI)的API安全措施的变化,以防止未经授权的路由或蒸馏。增强对 API 使用情况的身份验证和监控可能会成为标准做法。