發生了什麼事
紐約州為其《負責任的人工智慧安全與安保 (RAISE) 法案》制定了具體的合規時間表。州長 Kathy Hochul 於 9 月 21 日宣布,大型前沿人工智慧模型開發商必須從 11 月開始在該州新成立的數位創新、治理、誠信和信任辦公室 (DIGIT) 註冊。包括公共安全協議、季度風險評估和 72 小時事件報告在內的完整要求將於 1 月生效。該州還任命馬克吉爾曼 (Marc Gilman) 為 DIGIT 內 RAISE 法案的副主任,該機構隸屬於金融服務部。
州長 Kathy Hochul 於 2026 年 9 月 21 日宣布了紐約州 RAISE 法案的實施時間表。該時間表要求大型前沿人工智慧模型開發商從 2026 年 11 月開始向紐約州數位創新、治理、誠信和信任辦公室 (DIGIT) 註冊。 2027 年 1 月,這些開發商必須開始發布安全和透明度框架,提交災難性風險的季度評估,並向72 小時內數位。
該州任命馬克吉爾曼 (Marc Gilman) 為 DIGIT(金融服務部的一個新辦公室)內負責 RAISE 法案的副主任。該法對不遵守規定的行為處以民事處罰,首次違規的罰款最高可達 100 萬美元,後續違規的罰款最高可達 300 萬美元,由州總檢察長執行。這些義務專門適用於大型前沿模型開發商,而不是所有人工智慧用戶,但它們創建了一條影響下游客戶的監管鏈。
這項公告凸顯了使用這些模型進行客戶服務、詐欺偵測或支付的銀行和金融科技公司面臨的實際挑戰。如果人工智慧提供者報告嚴重事件,開發人員可能需要調查、更改存取權限或改變模型行為,這可能會擾亂金融機構的運作。儘管霍赫爾州長已經將這一概念作為一個探索性想法進行了討論,但該法律目前並未強制要求設置「終止開關」。
為什麼這很重要
這項進展將《RAISE 法案》從簽署的法規轉變為具有可執行期限的營運監管框架。 72 小時事件報告要求以及可能對違規行為進行高達 300 萬美元的民事處罰,給依賴這些人工智慧供應商的金融機構帶來了直接的營運風險。銀行和金融科技公司現在必須評估其對特定人工智慧提供者的依賴,並準備後備程序,因為供應商的可報告事件可能會中斷詐欺偵測或支付等關鍵服務。該法律專門針對大型前沿模型開發商,但對其企業客戶的下游影響很大,迫使人們重新評估人工智慧領域的供應商風險管理策略。
RAISE 法案的實施時間表為紐約提供了一種即時追蹤嚴重模型風險的機制。 72 小時的事件報告窗口對於 AI 開發人員來說是一個重大的營運限制,需要快速回應安全問題。對於金融機構來說,這會產生新的供應商風險,必須將其整合到現有的合規性和營運彈性框架中。
開發人員和用戶之間的區別至關重要。雖然銀行不直接遵守 RAISE 法案的註冊要求,但它們對特定人工智慧供應商的依賴使它們容易受到供應商不合規或可報告事件的後果的影響。民事處罰的可能性會增加開發商的義務,可能會影響他們的風險管理實踐,進而影響他們向金融客戶提供的服務的穩定性。
這項政策行動迫使金融機構主動評估對人工智慧的依賴。他們必須確定多久才能收到供應商事件通知、哪些服務會受到影響,以及是否可以暫停模型對敏感資料的存取或其採取行動的權限。從被動依賴到主動風險管理的轉變是金融部門採用人工智慧方式的重大變化。
互動機制:它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
crm_get_transaction(id='4092').Impossibility results in algorithmic fairness (e.g. Kleinberg et al., Chouldechova) show what?
接下來看什麼
11 月監控大型人工智慧開發商的註冊流程,以了解哪些公司遵守規定以及他們如何建立安全框架。請關注將於 2027 年初發布的第一季災難性風險評估。此外,請追蹤 Hochul 行長關於人工智慧「終止開關」的探索性討論是否會演變為正式的監管要求,或者仍然是金融機構的自願最佳實踐。
11 月的註冊截止日期將揭示哪些大型人工智慧開發商受到 RAISE 法案的約束,以及他們如何解釋「前沿模型」的定義。合規工作可能會有所不同,一些公司可能會質疑法律的範圍或尋求 DIGIT 的澄清。
第一季災難性風險評估將於 2027 年初發布,屆時公眾將首次了解開發人員如何評估和報告其模型的潛在危害。這些報告可能會強調金融服務等領域的特定風險,人工智慧也越來越多地用於決策。
Hochul 行長關於人工智慧「終止開關」的討論可能會為金融機構帶來進一步的監管指導或自願標準。雖然目前還沒有要求,但能夠在緊急情況下快速禁用人工智慧工具的概念正在成為銀行業風險管理者的重點關注點。