GDPR và ra quyết định tự động
Quy định chung về bảo vệ dữ liệu của EU trao cho mọi người quyền khi máy tính tự động đưa ra các quyết định quan trọng về chúng.
Tổng quan
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Lặn sâu
GDPR, có hiệu lực từ tháng 5 năm 2018, là luật bảo mật hàng đầu của EU. Điều khoản liên quan đến AI nhất của nó là Điều 22, trong đó nói rằng mọi người có quyền không phải tuân theo quyết định chỉ dựa trên quá trình xử lý tự động tạo ra các hiệu ứng pháp lý hoặc tương tự, chẳng hạn như tự động từ chối khoản vay hoặc từ chối tuyển dụng tự động. Có những trường hợp ngoại lệ: quyết định có thể được cho phép nếu nó cần thiết cho một hợp đồng, được pháp luật cho phép hoặc dựa trên sự đồng ý rõ ràng. Ngay cả khi đó, tổ chức vẫn phải đưa ra các biện pháp bảo vệ, bao gồm quyền can thiệp của con người, để bày tỏ quan điểm của bạn và phản đối quyết định. Điều 22 áp dụng bất cứ khi nào quyết định được thực hiện hoàn toàn tự động và có ý nghĩa quan trọng, bất kể liệu AI có liên quan hay không.
Hiểu biết kỹ thuật
Điều 22 xoay quanh hai ngưỡng: quyết định phải được thực hiện hoàn toàn tự động (không có sự tham gia đáng kể của con người) và có hiệu lực pháp lý hoặc có ý nghĩa quan trọng tương tự. Việc con người dập tắt đầu ra của thuật toán không được tính là đánh giá có ý nghĩa. Kết hợp với Điều 13-15, bên kiểm soát phải cung cấp thông tin có ý nghĩa về logic liên quan. Điều này thúc đẩy các công ty hướng tới các mô hình và nhật ký kiểm toán có thể giải thích được, vì họ phải có khả năng mô tả cách các đầu vào liên quan đến một quyết định.
Tác động chiến lược
Rủi ro và an toàn
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Quyết định rõ ràng hơn
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Phá vỡ sự thổi phồng
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Tương lai của GDPR và việc ra quyết định tự động
Việc thực thi GDPR đang được tăng cường và hiện nó trùng lặp với Đạo luật AI của EU, đạo luật này bổ sung các nghĩa vụ theo cấp độ rủi ro đối với các hệ thống có rủi ro cao như chấm điểm tín dụng và tuyển dụng. Mong đợi thêm hướng dẫn về những gì được coi là quyết định hoàn toàn tự động, sự giám sát chặt chẽ hơn về hồ sơ và các khoản tiền phạt lớn (lên tới 4% doanh thu toàn cầu). Các tòa án, bao gồm cả Tòa án Công lý của Liên minh Châu Âu trong vụ chấm điểm tín dụng SCHUFA, đang tích cực làm rõ khi việc tự đưa ra điểm số sẽ kích hoạt các biện pháp bảo vệ theo Điều 22.
Triển khai trong thế giới thực
Ngân hàng tự động từ chối đơn đăng ký thẻ tín dụng bằng thuật toán tính điểm, sau đó phải cung cấp cho người nộp đơn cách yêu cầu đánh giá của con người.
Người cho vay trực tuyến phải cho người vay bị từ chối biết các yếu tố chính đằng sau việc từ chối tự động theo quyền được cung cấp thông tin có ý nghĩa về logic.
Một nền tảng kinh tế lớn tự động vô hiệu hóa trình điều khiển dựa trên xếp hạng phải đối mặt với thách thức của Điều 22 đối với việc sa thải hoàn toàn tự động.
Nhà tuyển dụng sử dụng phần mềm sàng lọc CV AI phải xây dựng một điểm kiểm tra con người trước khi từ chối tuyển dụng lần cuối để tuân thủ Điều 22.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Ra quyết định AI
Câu hỏi thường gặp
What is GDPR and Automated Decision-Making?
Quy định chung về bảo vệ dữ liệu của EU trao cho mọi người quyền khi máy tính tự động đưa ra các quyết định quan trọng về chúng. Đây là một trong những quy tắc có ảnh hưởng nhất trên thế giới trong việc định hình cách sử dụng hệ thống AI ở người châu Âu.
Bài viết nào về GDPR đề cập cụ thể đến các quyết định chỉ dựa trên quá trình xử lý tự động?
Điều 22 trao cho các cá nhân quyền không phải tuân theo các quyết định chỉ dựa trên quá trình xử lý tự động có ảnh hưởng pháp lý hoặc có ý nghĩa quan trọng tương tự.
Để áp dụng Điều 22, quyết định tự động nói chung phải có hiệu lực như thế nào?
Việc bảo vệ được kích hoạt khi một quyết định tạo ra hiệu lực pháp lý hoặc ảnh hưởng đáng kể tương tự đến người đó, chẳng hạn như từ chối cho vay hoặc từ chối công việc.
Khi một quyết định hoàn toàn tự động được cho phép trong một trường hợp ngoại lệ, tổ chức thường phải cung cấp biện pháp bảo vệ nào?
Các biện pháp bảo vệ bao gồm quyền can thiệp của con người, bày tỏ quan điểm của mình và phản đối quyết định.
Con người chỉ đơn thuần dập cao su đầu ra của thuật toán có ý nghĩa gì đối với Điều 22?
Sự tham gia có ý nghĩa của con người đòi hỏi phải có sự xem xét thực sự và có thẩm quyền để ghi đè; việc đăng xuất bằng mã thông báo sẽ giữ quyết định trong phạm vi của Điều 22.