发生了什么
据《连线》报道，OpenAI 正在调查与其他人工智能实验室协调以减缓开发的法律可行性，这是其首席科学家为确保安全而提出的策略。虽然七月份提出的一项两党法案旨在为此类合作提供反垄断豁免，但该法案尚未颁布，导致该行业处于法律不确定状态。
据《连线》报道，OpenAI 目前正在评估人工智能发展的协调放缓是否符合美国反垄断法。此次调查是在 OpenAI 首席科学家 Jakub Pachocki 发表博客文章之后进行的，他认为协调减缓未来的发展对于确保自我改进的人工智能系统的安全至关重要。帕乔基建议，在建立共同的安全标准之前，自愿减速应该变得司空见惯。
《连线》杂志援引包括尼古拉斯·费尔斯特德 (Nicholas Felstead) 在内的法律专家的话说，这种协调可能会限制产出，从而违反《谢尔曼反垄断法》。虽然合法性取决于任何协议的具体细节，但由此产生的法律不确定性对考虑安全合作的公司构成了强大的威慑。 OpenAI 没有回应《连线》杂志就此事发表评论的请求。
为了回应这些担忧，两党立法者小组于 7 月推出了“对抗性威胁和安全风险合作法案”。该法案将明确允许人工智能实验室协调安全和安全工作，而不会面临反垄断风险。然而，众议院版本的法案已提交司法委员会，尚未采取进一步行动。
支持该法案的人工智能政策网络的 Caleb Knapp 表示，国会对人工智能安全立法的兴趣越来越大，但该立法可能会推迟到即将到来的中期选举之后。与此同时，包括约翰·舒尔曼 (John Schulman) 在内的一些人工智能领导人认为，反垄断担忧是企业避免解决有关人工智能安全的更深层次竞争和哲学分歧的一个方便借口。
为什么这很重要
这种法律上的模糊性对人工智能安全的集体行动造成了重大障碍。如果没有明确的法律保护，大型科技公司可能会因为反垄断诉讼的风险而避免在安全措施上进行协调，这可能会让对更强大模型的竞争继续不受限制，尽管人们对安全和社会风险的担忧日益增加。
潜在的反垄断责任对全行业的安全协调造成了重大障碍。随着人工智能能力的增强，安全事件和社会危害的风险也在增加，但目前的法律框架并不鼓励减轻这些风险所需的协作。
这种法律上的不确定性可能会导致前沿模型的竞争在没有有意义的安全检查的情况下继续进行。公司可能会优先考虑速度和市场份额而不是集体安全努力，特别是如果他们认为与竞争对手协调可能会让他们面临法律挑战。
这种情况突显了美国当前政策的一个严重缺陷。尽管两党都对人工智能安全感兴趣，但缺乏颁布的立法使人工智能实验室处于不稳定的境地，无法自信地参与专家认为安全发展所必需的那种协调。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下来看什么
监视众议院司法委员会《对抗威胁和安全风险合作法案》的进展，并关注 OpenAI 或其他主要实验室关于一旦法律明确后他们愿意参与安全协调的任何公开声明。
众议院司法委员会“对抗性威胁和安全风险合作法案”的后续步骤将是国会致力于解决人工智能安全协调法律模糊性的关键指标。
OpenAI 和其他主要人工智能实验室关于安全协调立场的公开声明将受到密切关注，特别是随着法律环境的发展和发布新模型的竞争压力加剧。
任何涉及人工智能模型的进一步安全事件，例如最近的 Hugging Face 违规事件，都可能会增加立法者迅速采取行动并为行业提供明确法律指导的压力。