GDPR 與自動化決策
當電腦自動做出有關人們的重要決策時，歐盟的《一般資料保護規範》賦予人們權利。
概述
它是全球最具影響力的規則之一，影響了人工智慧系統如何被歐洲人使用。
深入探討
GDPR 自 2018 年 5 月起生效，是歐盟的旗艦隱私法。其與人工智慧最相關的條款是第 22 條，該條款規定，人們有權不受僅基於自動化處理的決定的約束，該決定會產生法律或類似的重大影響，例如自動貸款拒絕或自動招聘拒絕。但也有例外：如果合約有必要、法律授權或基於明確同意，則可以允許該決定。即便如此，組織也必須提供保障措施，包括人為幹預的權利、表達觀點並對決定提出異議的權利。只要決策是完全自動化且重要的，無論是否涉及人工智慧，第 22 條都適用。
技術洞察
第 22 條取決於兩個門檻：決策必須完全自動化（沒有有意義的人為參與），並且具有法律或類似的重大影響。人類對演算法輸出的橡皮圖章不算是有意義的評論。結合第 13-15 條，控制者必須提供有關所涉及邏輯的有意義的資訊。這促使公司轉向可解釋的模型和審計日誌，因為它們必須能夠描述輸入如何映射到決策。
戰略影響
風險與安全
災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
更明確的決策
民眾和專業素養決定強而有力的安全政策在政治上是否可行。
突破炒作
清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
GDPR 與自動化決策的未來
GDPR 的執行力度正在加強，現在它與歐盟人工智慧法案重疊，該法案為信用評分和招聘等高風險系統增加了風險分級義務。預計將有更多有關什麼是完全自動化決策、更嚴格的分析審查以及巨額罰款（最高可達全球營業額 4%）的指導。法院，包括 SCHUFA 信用評分案中的歐盟法院，正在積極澄清評分本身何時會觸發第 22 條保護。
現實世界的實施
銀行使用評分演算法自動拒絕信用卡申請，然後必須為申請人提供請求手動審核的方法。
線上貸款機構必須告訴被拒絕的借款人自動拒絕背後的主要因素，並有權獲得有意義的邏輯資訊。
一個根據評級自動停用司機的零工經濟平檯面臨著第 22 條關於完全自動解僱的挑戰。
使用人工智慧履歷篩選軟體的招募人員必須在最終拒絕招募之前建立人工檢查點，以遵守第 22 條的規定。
風險與防護欄
將存在風險視為科幻小說，同時能力複合。
混淆了表面產品安全與高度自治下的對準。
只給非英語和非專業觀眾留下低品質的資源。
實施路線圖
單獨的產品危害、誤用和失控/失調風險。
詢問哪些證據會改變您對時間表和嚴重性的看法。
比起行銷主張，更喜歡主要來源和具體評估。
確定一條行動路徑：職業、政策、資金或技能——而不僅僅是意識。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
什麼是GDPR與自動化決策？
當電腦自動做出有關人們的重要決策時，歐盟的《一般資料保護規範》賦予人們權利。這是世界上最具影響力的規則之一，決定了人工智慧系統如何在歐洲人身上使用。
哪一篇 GDPR 文章專門討論了僅基於自動化處理的決策？
第 22 條賦予個人不接受僅基於自動化處理且具有法律或類似重大影響的決策的權利。
要適用第22條，自動決定一般必須具有什麼樣的效果？
當決定產生法律效力或類似地對個人產生重大影響（例如貸款被拒絕或工作被拒絕）時，就會觸發保護。
當在例外情況下允許完全自動化決策時，組織通常必須提供什麼保障措施？
保障措施包括人為幹預的權利、表達觀點的權利、對決定提出異議的權利。
對於第 22 條，人類僅在演算法的輸出上蓋上橡皮圖章意味著什麼？
有意義的人類參與需要真正的審查和推翻的權力；象徵性簽署使決定保持在第 22 條的範圍內。