发生了什么
参议员伯尼·桑德斯 (Bernie Sanders) 和众议员格雷格·卡萨尔 (Greg Casar) 提出立法，禁止超级人工智能的发展，并在安全规则制定之前暂停先进人工智能，并提议判处最高 20 年监禁。
美国参议员伯尼·桑德斯和德克萨斯州民主党众议员格雷格·卡萨尔宣布了一项立法提案，永久禁止“人工智能”的开发和部署。该法案还包括暂时停止先进人工智能的开发，直到联邦安全规则制定为止。
据海湾新闻报道，桑德斯在9月15日接受哥伦比亚广播公司新闻采访时表示，人工智能的潜在危险“可能比核武器还要大”。他提议对违反拟议禁令的人工智能开发者处以最高 20 年监禁，并认为创造能够威胁人类的技术会带来严重的刑事后果。
该立法还将指示美国寻求国际协议，以防止超级人工智能在其他地方发展。桑德斯将这种风险描述为，如果人工智能系统超越人类智能，它们可能会“逃脱人类的控制，带来灾难性后果”。
这些评论是在华盛顿进行更广泛的辩论之际发表的。虽然桑德斯主张颁布禁令，但唐纳德·特朗普总统最近驳斥了对人工智能接管的担忧，称其为“骗局”，并拒绝了全球对护栏的呼吁，声称“强大而聪明的总统”是唯一必要的保护。
为什么这很重要
该提案标志着美国人工智能政策辩论的重大升级，从自愿安全措施转向对开发特定类别人工智能的潜在刑事处罚。它突显了主张严格监管暂停的人和优先考虑竞争速度的人之间日益加深的政治分歧，这可能为未来高风险人工智能能力如何在法律上定义和限制奠定先例。
该提案为人工智能引入了一个新颖的法律框架，专门针对“超级智能”而不是当前的生成模型。对开发人员判处 20 年监禁的建议标志着人们开始将先进人工智能开发视为与核扩散类似的潜在国家安全威胁。
此举加剧了围绕人工智能监管的政治两极分化。这与政府的立场形成鲜明对比，政府优先考虑美国对中国的竞争力，并认为严格的安全暂停是不必要的或对创新有害。
这场辩论还反映了科技行业内部的分歧，达里奥·阿莫迪(Dario Amodei)和山姆·奥尔特曼(Sam Altman)等领导人呼吁采取更强有力的安全措施，而帕兰蒂(Palanti)首席技术官希亚姆·桑卡尔(Shyam Sankar)等其他人则将存在风险警告视为意识形态的“末日邪教”言论。
互动机制：它实际上是如何运作的
以交互方式探索这一发展背后的基础技术。
Why can ethical evaluation not be reduced to one model score?
接下来看什么
关注拟议禁令的立法进展、主要人工智能公司对 20 年处罚的反应，以及特朗普政府是否正式反对暂停开发。
鉴于当前的政治气候和政府反对减缓人工智能发展，追踪拟议的立法是否获得足够的两党支持以在国会取得进展。
观察主要人工智能公司和研究人员对 20 年监禁的具体处罚的反应，因为这可能会影响内部安全合规策略和有关人工智能风险的公开声明。
关注白宫或国防部对拟议的超级人工智能国际协议的任何正式回应，这可能会影响美中人工智能外交。