概述
這很重要,因為它規定了具體的職責,包括影響評估、風險管理計劃和消費者通知,其他州和公司正在將其視為可能的模式。
深入探討
科羅拉多州州長賈里德·波利斯 (Jared Polis) 於 2024 年 5 月簽署了 SB 24-205,即人工智慧消費者保護法案,但有保留意見,敦促立法者對其進行完善。該法律原定於 2026 年 2 月 1 日生效。在 2025 年 8 月的特別會議上,立法機關通過了一項法案,將生效日期推遲至 2026 年 6 月 30 日。修正案仍在辯論中,因此在依賴之前請檢查當前文本和狀態。該法針對的是高風險人工智慧系統,即做出重大決策或作為決策的重要因素的系統。後果性決策是指對教育、就業、金融或借貸服務、基本政府服務、醫療保健、住房、保險或法律服務的取得、成本或條款產生重大影響的決策。演算法歧視是指人工智慧系統的使用導致基於年齡、膚色、殘疾、種族、遺傳資訊、國籍、種族、宗教、性別或退伍軍人身分等受保護特徵對人們不利的非法差別待遇或影響。旨在測試或減少歧視或增加多樣性的用途被制定出來。開發人員必須向部署人員提供有關預期用途、培訓數據摘要、已知風險和緩解措施的文檔,發布其高風險系統的摘要,並在發現已知歧視風險後 90 天內向司法部長和部署人員報告已知的歧視風險。部署者必須維持風險管理政策,至少每年完成一次影響評估,並在進行重大修改後通知消費者,並在做出不利決定後提供解釋、糾正和上訴。一些小型部署者可以免受部分限制。只有科羅拉多州總檢察長負責執法;不存在私人訴權。在遵循 NIST AI 風險管理框架或 ISO/IEC 42001 等公認框架的同時發現和糾正違規行為可支持積極防禦。與《歐盟人工智慧法案》相比,科羅拉多州的法律範圍更窄:它側重於後果性決策中的歧視,而不是製定禁止的做法、合格評定和巨額罰款。
現實世界的實施
科羅拉多州的一所大學使用人工智慧模型來幫助招生申請人進行排名,這將是一個部署者,並且需要一個風險管理計劃、年度影響評估以及向申請人發出人工智慧是決策一部分的通知。
向科羅拉多州雇主銷售履歷篩選工具的軟體公司將成為開發人員,並且需要向這些雇主提供有關該工具的預期用途、已知限制和歧視風險的文件。
房東的租戶篩選系統拒絕申請人,將觸發解釋主要原因的責任,允許申請人糾正不準確的數據並提出上訴,並在技術上可行的情況下進行手動審查。
科羅拉多州一家公司網站上的客戶服務聊天機器人需要透露消費者正在與人工智慧交談,除非這對一個有理智的人來說是顯而易見的。
科羅拉多州人工智慧未來法案 (SB 24-205) 解釋
科羅拉多州的法律已被推遲,並且仍然是對其範圍、小型企業成本以及相應決策的定義進行積極辯論的主題,因此有可能進行進一步的修改。其他州也考慮過類似的法案,但結果好壞參半,聯邦關於限製或搶佔州人工智慧規則的討論增加了不確定性。無論最終細節如何,它所需的實踐,包括人工智慧清單、影響評估和消費者通知,正在成為人工智慧治理的標準期望,並為在多個司法管轄區運營的組織提供有用的準備。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
科羅拉多州人工智慧法案 (SB 24-205) 的解釋是什麼?
科羅拉多州人工智慧法案 (SB 24-205) 是美國第一部監管高風險人工智慧系統的廣泛州法律:它要求用於招聘、貸款、住房、醫療保健和教育等後續決策的人工智慧開發者和部署者採取合理的謹慎措施來保護消費者免受演算法歧視。這很重要,因為它規定了具體的職責,包括影響評估、風險管理計劃和消費者通知,其他州和公司正在將其視為可能的模式。
根據 SB 24-205,什麼使人工智慧系統具有高風險?
法律根據高風險系統在就業、貸款或住房等後續決策中的作用來定義高風險系統。
2025 年 8 月的特別會議將該法的生效日期延後到什麼日期?
原定日期為2026年2月1日;特別會議將其延後至2026年6月30日。
誰執行科羅拉多州人工智慧法案?
該法賦予總檢察長執行權,但不規定私人訴訟權。
哪一個是部署者職責而不是開發人員職責?
部署者(即對消費者使用該系統的組織)承擔影響評估和消費者通知職責。
使用高風險系統做出不利的後果性決策後會發生什麼?
該法律要求解釋、糾正不準確的數據,並在技術上可行的情況下透過人工審查提出上訴。