概述
它要求他們發布安全框架和透明度報告,向國家報告重大安全事件,並保護提出災難性風險擔憂的舉報人。這很重要,因為它是美國第一批專門針對前沿模型開發商的法律之一,並且它以要求披露的方式取代了被否決的 SB 1047 中以責任為中心的方法。
深入探討
SB 53 將前緣模型定義為使用超過 10^26 整數或浮點運算訓練的基礎模型,包括後期微調或修改的計算。任何訓練過此類模型的開發人員都是前沿開發人員,在部署新的或經過大幅修改的前沿模型時必鬚髮布透明度報告。年收入超過 5 億美元的大型前沿開發商還必須發布並每年審查前沿人工智慧框架,在其透明度報告中包含災難性風險評估摘要,並定期向緊急服務辦公室 (OES) 發送內部使用其模型的災難性風險評估摘要。災難性風險是指模型在單一事件中導致超過 50 人死亡或重傷或超過 10 億美元損失的可預見的重大風險。風險必須透過化學、生物、放射性或核武方面的專家級幫助而產生;在沒有有意義的人類監督的情況下實施的網路攻擊或嚴重犯罪;或逃避開發者控制的模型。重大安全事件包括未經授權存取模型權重、具體災難性風險造成的傷害以及失控。開發商不得對災難性風險做出重大虛假或誤導性陳述。總檢察長執行該法律時,每次違法行為將受到最高 100 萬美元的民事處罰。 SB 53 也創建了一個聯盟來設計公共運算叢集 CalCompute。該法律遵循同樣由參議員 Scott Wiener 制定的 SB 1047 法案,該法案要求部署前進行安全測試、關閉能力和嚴重損害責任。紐瑟姆州長於 2024 年 9 月否決了該法案,並召集了一個專家小組,其 2025 年 6 月的報告支持透明度和核查。 SB 53 不需要許可、預先核准或終止開關。
現實世界的實施
年收入超過 5 億美元的大型前沿開發商必須在其網站上發布前沿 AI 框架。該框架解釋了公司如何評估和減輕災難性風險,包括是否使用第三方評估員。
當開發人員發布新的前沿模型時,必須發布一份涵蓋該模型的預期用途和限制的透明度報告。大型開發商還必須在該報告中總結其災難性風險評估。
發現其未發布的模型權重被盜的開發商必須在 15 天內向加州緊急服務辦公室報告重大安全事件。如果事件構成迫在眉睫的死亡或重傷風險,則截止日期為 24 小時。
認為公司歪曲災難性風險的員工可以向司法部長或其他當局報告,並免受報復。大型開發商還必須提供匿名的內部舉報管道。
加州 SB 53 的未來和前沿人工智慧透明度
大多數義務於 2026 年 1 月 1 日生效,因此目前幾乎沒有執行歷史。懸而未決的問題包括 OES 將如何處理事件報告以及司法部長將如何積極地追究處罰。该法律指示州官员随着时间的推移审查其定义和阈值,因为随着训练变得更加高效,固定的计算阈值可能会变得过时。最大的不確定性是聯邦政策:國會和白宮試圖搶佔或挑戰各州人工智慧法律的努力導致兩國關係不穩定。包括紐約在內的其他州也推行了類似的邊境模式透明度立法。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是加州 SB 53 和 Frontier AI Transparency?
加州 SB 53 是 2025 年 9 月簽署的前沿人工智慧透明度法案,適用於計算最密集的人工智慧模型的開發人員。它要求他們發布安全框架和透明度報告,向國家報告重大安全事件,並保護提出災難性風險擔憂的舉報人。這很重要,因為它是美國第一批專門針對前沿模型開發商的法律之一,並且它以要求披露的方式取代了被否決的 SB 1047 中以責任為中心的方法。
什麼訓練計算閾值定義了 SB 53 下的前沿模型?
SB 53 將前緣模型定義為經過超過 10^26 次整數或浮點運算訓練的模型,計算用於後續微調或修改的計算。
前沿開發商的年收入是多少才能成為大型前沿開發商?
年收入超過 5 億美元的開發商算是大型前沿開發商。他們必須發布前沿人工智慧框架並履行額外的報告職責。
向國家報告重大安全事件的標準截止日期是多少?
開發商通常必須在 15 天內向緊急服務辦公室報告重大安全事件。當有迫在眉睫的危險時,適用的期限較短。
如果事件構成迫在眉睫的死亡或嚴重傷害風險,必須多快通報事件?
如果事件構成迫在眉睫的死亡或重傷風險,開發商必須在 24 小時內通知有關當局。
SB 53 不需要其中哪一項?
SB 53 依賴資訊揭露、事件報告和舉報人保護。它不需要許可、預先批准或終止開關。關閉功能是被否決的 SB 1047 的一部分。