发生了什么
OpenAI 发表了一封公开信，认为随着人工智能系统的改进，基于人工智能的网络攻击将变得更加广泛和复杂。这封信得到了大量公司和组织的支持，包括 Anthropic、Google、Microsoft、AWS、思科、CrowdStrike 以及主要金融和基础设施公司。
OpenAI 的页面上发布了一封题为“呼吁网络防御集体行动”的公开信。报告称，在人工智能攻击变得更加广泛和复杂之前，加强网络防御的时间有限。该页面不识别特定事件、攻击者或被利用的系统。相反，它描述了广泛的风险评估，并提出了涉及公司、网络安全提供商、政府和前沿人工智能开发商的协调应对措施。
这封信称，现有的暴露部分源于熟悉的安全问题：错误、权限过多、配置错误、未打补丁且不安全的软件、弱身份验证以及遗留系统中的技术债务。它认为，安全团队，尤其是保护关键基础设施的安全团队，历来缺乏足够的资源。该文件还表示，当前人工智能的进步可以帮助防御者发现并修复弱点，使安全工作更快、更便宜，并将专业能力扩展到更多组织。
其签署名单包括人工智能公司、云和芯片公司、网络安全公司、金融机构、技术提供商和其他企业。指定签署方包括 1Password、Anthropic、Google、Microsoft、OpenAI、AWS、思科、Cloudflare、CrowdStrike、IBM、Palo Alto Networks、ServiceNow、Shopify、Snowflake、Visa 和 Zurich Insurance Company 等。该消息来源还列出了与关键基础设施、金融、通信、制造和软件开发相关的组织。
拟议的回应分为四组。敦促每个组织将网络防御作为领导层的当务之急，修复高风险弱点，验证修复工作是否会中断基本服务，并提高对购买、构建和部署的系统（包括人工智能生成的代码）的安全要求。网络安全公司和技术合作伙伴被要求测试对先进网络功能的防御，利用人工智能改进现有工具，帮助关键基础设施运营商部署这些工具，并共享经过测试的剧本和威胁情报。
为什么这很重要
这封信将人工智能安全视为一个集体防御问题，而不是单个公司可以单独解决的问题。它的重点是医院、水处理厂、互联网基础设施和其他可能缺乏解决长期弱点所需的人员或预算的基本服务。
核心公共利益问题是做好准备。如果人工智能系统使发现漏洞、生成恶意代码或自动化部分入侵变得更加容易，那么防御薄弱的组织即使没有大型安全团队，也可能面临更大的压力。这封信强调了医院、自来水公司、地方政府和互联网基础设施，指出这些服务的中断可能会影响到受攻击组织以外的人员。
该文件还强调了防御性人工智能的实际紧张局势。功能更强大的系统可能有助于识别弱点、确定修复优先级并支持事件响应，但让这些系统访问敏感环境会带来其自身的治理和安全要求。因此，这封信呼吁负责任的模型访问、可追踪和负责任的代理身份、可观察性、持续监控、授权测试、私人披露和经过验证的修复。这些规定承认防御能力必须受到控制和分配。
集体方法可以使个人改进更有用。这封信要求各组织共享工具、实用知识、威胁情报和修复措施，以便一个团队的工作能够保护其他团队。它还要求技术合作伙伴通过有多少组织受到保护、攻击被遏制的速度以及修复是否有效来衡量进展情况。这些拟议的措施将注意力从模型能力转向运营结果，尽管来源没有为它们提供基线或报告系统。
这封信也是来自行业的倡导，这限制了从中得出的结论。它不提供攻击数据、独立测试、量化预测或特定签署方已经实施提案的证据。它没有具体说明需要多少资金、应由哪个政府领导、如何管理准入计划或竞争公司将如何共享敏感信息。消息来源建立了协调一致的呼吁和政策框架，但并没有证明所建议的防御措施能够大规模发挥作用。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下来看什么
这封信是一组建议，而不是表明特定攻击已经发生或预测的升级已经开始的证据。重要的后续行动将是签署方是否提供资金、防御工具、授权测试、威胁情报和可衡量的支持，以及政府是否制定计划，使资源不足的运营商能够获得这些能力。
第一个问题是签署方是否将广泛的承诺转化为具体的援助。这封信呼吁提供工具、资金、培训和实际支持，特别是对于预算有限的关键基础设施维护者。后续报告应寻找指定的计划、资格规则、交付日期、参与的提供商和实际部署的证据，而不是依赖于信函上的公司名称。
要求各国政府在地方、国家和国际层面进行协调；为基本服务提供国防资金；改善威胁情报渠道；扩大可信访问计划；并通过值得信赖的合作伙伴为医院、水务公司和地方政府提供防御性人工智能和授权测试。消息人士没有透露哪些政府已接受这些建议。它还要求对攻击者施加成本，但没有提供有关法律权限、执行或国际协调的细节。
人工智能代理的操作细节值得特别审查。这封信要求前沿人工智能公司使代理身份可追溯、可问责，并共享监控实践。观察者应该询问哪些身份记录将被保留、谁可以对其进行审计、如何调查滥用行为以及如何保护隐私。消息来源没有定义技术标准、问责机构或当人工智能工具导致故障时解决责任的流程。
最后，预测的时间仍然是一个重要的未知数。这封信提到了有限的防御窗口，并表示未来几个月攻击将变得更加广泛和复杂，但它没有定义窗口，提供时间表或确定可衡量的阈值。目前还不清楚哪些拟议的保障措施已经可用，有多少组织可以使用它们，以及较低成本的模型是否足以覆盖广泛的防御范围。这些悬而未决的问题将决定该呼吁是否成为一项实用的安全计划，还是仍然是一个高层意向声明。