概述
這些企業必須發出使用前通知,提供選擇退出或手動上訴,並回答有關如何使用該技術的存取請求。這些規則受《加州消費者隱私法》管轄,並於 2025 年最終確定,使加州成為美國首批在招聘、貸款、住房、教育和醫療保健方面製定演算法決策詳細規則的司法管轄區之一。
深入探討
CCPA 經《加州隱私權法案》修訂後,指示加州隱私權保護局 (CPPA) 制定有關自動決策、風險評估和網路安全審計的規則。 CPPA 董事會於 2025 年 7 月通過了最終方案;該法案於 2025 年 9 月獲得批准,並於 2026 年 1 月 1 日生效,多項職責的合規日期較晚。什麼是 ADMT:處理個人資訊並使用計算來取代或基本上取代人類決策的技術。 「實質上替代」是指在沒有有意義的人為參與的情況下使用輸出來做出決策。為了計數,人工審核員必須知道如何解釋輸出,實際將其與其他相關資訊一起審核,並有權更改決定。最終規則比早期草案的範圍更窄,從 ADMT 義務中刪除了行為廣告和某些形式的廣泛分析。重大決策:ADMT 職責適用於導致提供或拒絕金融或貸款服務、住房、教育入學或機會、就業或簽約機會或補償、或醫療服務的決策。消費者權利:在使用之前,企業必須發出使用前通知,說明目的、選擇退出和存取資訊的權利以及 ADMT 的運作方式。除非有例外情況,否則消費者可以選擇退出。主要的例外是向合格的人工審核員提出上訴;較窄的範圍涵蓋某些准入、僱用和工作分配用途,其中該工具按預期工作且不存在歧視。存取請求使消費者能夠獲得有關邏輯和輸出的資訊。使用 ADMT 進行重大決策的企業必須在 2027 年 1 月 1 日之前遵守規定。風險評估:這些評估適用範圍更廣,例如出售或分享個人資訊以及處理敏感資料。現有處理必須在 2027 年底前進行評估,並從 2028 年開始向 CPPA 提交摘要。一個常見的誤解是,任何人工智慧的使用都會觸發這些規則。重要的是該工具是否在重大決策中取代了人類的判斷。
現實世界的實施
雇主使用軟體自動拒絕低於分數線的求職者,無需人工審核。在使用該工具之前,雇主必須向申請人發出使用前通知,以解釋該工具及其權利。
人員配置平台使用模型來決定提供任務給哪些承包商。它可以向有權推翻決定的合格的人工審核員提出上訴,而不是選擇退出。
一家營利性線上教育公司使用一種演算法來篩選其計畫的申請人。它必須記錄風險評估,權衡處理的隱私風險及其利益。
一名消費者否認公寓向房東的篩檢公司索取資訊。公司必須解釋其 ADMT 的邏輯以及如何在決策中使用輸出。
加州 ADMT 自動化決策規則的未來
實際問題與執行有關:CPPA 對「實質取代」的理解有多嚴格,以及它首先檢查哪些行業。其他州已經通過或提出了自己的演算法決策法律,其中一些更為嚴格。因此,在全國範圍內開展業務的公司可能會採用最嚴格的通用做法進行標準化。規則的進一步修改以及與任何聯邦人工智慧立法的互動仍然是可能的。企業應將目前的合規日期視為固定日期,同時密切注意更新。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是加州 ADMT 自動決策規則?
加州隱私權保護局的自動決策技術 (ADMT) 法規涵蓋了在有關消費者的重大決策中使用技術取代或實質上取代人類決策的企業。這些企業必須發出使用前通知,提供選擇退出或手動上訴,並回答有關如何使用該技術的存取請求。這些規則受《加州消費者隱私法》管轄,並於 2025 年最終確定,使加州成為美國首批在招聘、貸款、住房、教育和醫療保健方面製定演算法決策詳細規則的司法管轄區之一。
CPPA 规则下的技术 ADMT 是什么?
該定義著眼於取代或實質上取代人類決策,而不是該技術是否被視為人工智慧。
其中哪一項是規則下的重要決策領域之一?
重大決策涵蓋金融或貸款服務、住房、教育、就業和醫療保健。推荐和广告不在列表中。
人工審核員必須能夠做什麼才能將審核視為人工參與?
該標準需要真正的理解、實際的審查以及改變結果的權威。橡皮图章不符合资格。
使用 ADMT 進行重大決策的企業必須在什麼日期之前遵守 ADMT 要求?
該法規於 2026 年 1 月 1 日生效,ADMT 關稅自 2027 年 1 月 1 日起適用。
讓企業避免提供 ADMT 選擇退出的主要例外是什麼?
具有真正權威的人的呼籲可以取代選擇退出。某些准入、僱用和工作分配用途存在較窄的例外情況。