发生了什么
据彭博社报道，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 敦促人工智能行业放慢其最先进模型的开发速度，并表示 Anthropic 将实施额外的安全措施，包括第三方评估人员。彭博社还报道称，与 OpenAI 和 xAI 相关的领导人呼吁放慢人工智能的发展。本文并未独立确定这些提案的范围、时间安排或可执行性。
彭博社报道称，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 于 9 月 12 日发表了一篇长篇博客文章，呼吁在更广泛的行业中“放慢”改进先进人工智能模型的步伐。据彭博社报道，Amodei 提到了该技术带来的不断升级的风险，并表示 Anthropic 将引入新的安全措施，包括使用第三方评估程序。
彭博社的报告还框架了这一声明，同时还提出了其他技术领导者呼吁减缓前沿人工智能发展的呼声，其中包括 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 和埃隆·马斯克 (Elon Musk)。除了报道中呼吁放慢步伐之外，消息人士在文章本身中没有详细说明这些领导人的提议。
来源是二次报告。 Anthropic 提案的存在和措辞在此归因于彭博社的账户以及该账户中描述的链接帖子；本次评估尚未对它们进行独立确认。彭博社没有具体说明 Anthropic 的新评估流程何时开始、将覆盖哪些系统、谁将有资格成为评估员，或者该公司是否会发布结果。
为什么这很重要
较慢的开发速度可能会影响前沿人工智能系统的训练、发布和部署速度，而独立评估可以对安全声明进行额外的审查。其重要性取决于这些呼吁是否成为竞争公司所采用的具体、可衡量的承诺。彭博社报道了这些提议及其陈述的理由，但消息来源没有提供独立证据证明发展已经放缓或提议的保障措施正在有效运作。
该提案解决了先进人工智能中的一个核心治理问题：竞相改进功能日益强大的系统的公司可能面临在安全测试成熟之前发布或扩展这些系统的压力。独立评估人员可以在公司自己的测试之外增加审查，但其价值将取决于对相关系统的访问、避免利益冲突以及报告有意义的发现的能力。
仅当自愿放慢对培训计划、部署阈值或发布决策产生明显变化时，它才具有实际意义。消息来源没有报告暂停、具有约束力的行业协议、政府要求或任何人工智能产品可用性的变化。它还没有确定拟议的措施会减少特定风险。
对于用户和组织来说，直接的实际影响是不确定性，而不是已知的产品变化。彭博社没有报告新的准入条件、定价或限制。主要的潜在影响在于未来的模型发布以及公司在部署模型之前提供的证据。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
请注意具体的时间表、将涵盖哪些模型或功能的定义，以及有关第三方评估者的独立性和权威性的详细信息。同样重要的是要了解其他人工智能开发商是否采取了类似的承诺，以及政府或客户是否制定了合规激励措施。彭博社没有报告消费者访问、产品可用性或定价的任何变化。
接下来的重要细节是 Anthropic 承诺的范围和时间：将评估哪些模型、评估者是否是 Anthropic 的外部人员、他们可以检查哪些信息以及他们的发现是否会被发布。来源中没有指定这些条件。
目前尚不清楚OpenAI、xAI或其他主要开发商是否会做出类似的承诺。一个广泛的、协调的标准可能比单独的声明更有效，但彭博社报道说没有这样的协议。
关注实施证据，例如延迟发布、新的评估报告、修订的部署政策或对安全发现如何影响发射决策的公开解释。消息人士还没有提供任何证据表明所报告的电话已经改变了开发活动。