Tiếp theoHướng dẫn tiếp theo
Đánh giá tác động của các quyền cơ bản theo Điều 27
xã hội
HƯỚNG DẪN xã hội
Đánh giá tác động thuật toán (AIA) là một quá trình xem xét có cấu trúc, được thực hiện trước và trong quá trình triển khai, nhằm xác định những ai có thể bị ảnh hưởng bởi hệ thống tự động hoặc AI, những tác hại mà hệ thống có thể gây ra và các biện pháp bảo vệ giúp giảm thiểu tác hại đó.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Điều này quan trọng vì nó buộc các tổ chức phải ghi lại các rủi ro và quyết định trước, và các quy định như Chỉ thị về Ra quyết định Tự động của Canada và Đạo luật AI của EU hiện yêu cầu các phiên bản của quy trình này.
An AIA borrows from environmental and privacy impact assessments: think through consequences before acting, write them down, and commit to mitigations. A good assessment usually covers the system's purpose and legal basis; the decision it supports and how much it replaces human judgement; data sources and their quality; affected groups, especially vulnerable ones; foreseeable harms such as discrimination, error, privacy loss or exclusion; oversight, explanation and appeal routes; and a plan for monitoring and review. Canada offers the best-known government example. Its Directive on Automated Decision-Making, in force since 2019, requires federal institutions to complete an Algorithmic Impact Assessment before using automated decision systems. The AIA is an online questionnaire with risk questions and mitigation questions. The score places the system at one of four impact levels, from little to very high impact, and each level triggers specific requirements, such as peer review, notice to affected people, human intervention in decisions and explanation. Completed assessments are published on the government's open data portal. The EU AI Act adds a fundamental rights impact assessment (FRIA) under Article 27. It applies to deployers of high-risk systems that are public bodies or private entities providing public services, and to deployers of certain systems such as credit scoring and life and health insurance pricing. The FRIA describes how and how often the system is used, who is affected, the specific risks, human oversight measures and what happens if risks materialise, and the deployer notifies the market surveillance authority. It complements, rather than replaces, a data protection impact assessment under the GDPR. A common misconception is that an AIA is a one-time compliance form. Its value comes from changing design decisions and from being revisited when the system, data or context changes.
Một bộ phận liên bang của Canada dự định sử dụng một mô hình để phân loại đơn xin thị thực sẽ hoàn thành bảng câu hỏi AIA trực tuyến của chính phủ, nhận mức độ tác động, sau đó phải sắp xếp việc đánh giá đồng cấp và sự tham gia của con người vào các quyết định cuối cùng theo yêu cầu của mức độ đó.
Một ngân hàng khu vực ở EU triển khai hệ thống chấm điểm tín dụng có rủi ro cao sẽ chuẩn bị một bản đánh giá tác động quyền cơ bản mô tả các nhóm người nộp đơn bị ảnh hưởng, rủi ro phân biệt đối xử, các thỏa thuận giám sát của con người và cách thức xử lý các khiếu nại.
Một cơ quan nhà ở thành phố đang cân nhắc công cụ chấm điểm rủi ro người thuê nhà sẽ tiến hành tham vấn công khai như một phần của quá trình đánh giá, và quyết định loại bỏ lịch sử trục xuất làm yếu tố đầu vào sau khi các nhà vận động chỉ ra rằng nó phản ánh tình trạng phân biệt đối xử trong quá khứ.
Một bệnh viện áp dụng mô hình cảnh báo nhiễm trùng máu cập nhật bản đánh giá tác động sau một năm sử dụng, bổ sung việc theo dõi tỷ lệ báo động giả giữa các khoa phòng và nhóm bệnh nhân.
Đánh giá tác động đang trở thành một phần tiêu chuẩn của quản trị AI thay vì chỉ là một bài tập đạo đức tùy chọn. Khi các nghĩa vụ của Đạo luật AI của EU đối với các hệ thống rủi ro cao có hiệu lực, các tổ chức sẽ cần các mẫu có thể lặp lại, và các cơ quan quản lý có thể công bố thêm hướng dẫn về nội dung cần có trong một bản FRIA đầy đủ. Các tiêu chuẩn như ISO/IEC 42005 có thể giúp đồng bộ hóa thực tiễn giữa các quốc gia. Các câu hỏi bỏ ngỏ là chất lượng và tính độc lập: các bản đánh giá do chính nhóm muốn triển khai hệ thống viết ra có thể trở thành hình thức đối phó. Việc công bố các bản đánh giá, tham vấn công khai có ý nghĩa và đánh giá độc lập bên ngoài là những cơ chế có nhiều khả năng giữ cho chúng minh bạch nhất, nhưng mức độ áp dụng rộng rãi ra sao vẫn chưa chắc chắn.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Đánh giá tác động thuật toán (AIA) là một quá trình xem xét có cấu trúc, được thực hiện trước và trong quá trình triển khai, nhằm xác định những ai có thể bị ảnh hưởng bởi hệ thống tự động hoặc AI, những tác hại mà hệ thống có thể gây ra và các biện pháp bảo vệ giúp giảm thiểu tác hại đó. Điều này quan trọng vì nó buộc các tổ chức phải ghi lại các rủi ro và quyết định trước, và các quy định như Chỉ thị về Ra quyết định Tự động của Canada và Đạo luật AI của EU hiện yêu cầu các phiên bản của quy trình này.
AIA là một quá trình xem xét có cấu trúc về những người bị ảnh hưởng, các tác hại có thể lường trước và các biện pháp giảm thiểu, được thực hiện trước và xem xét lại theo thời gian.
AIA mượn ý tưởng từ đánh giá tác động môi trường và quyền riêng tư: lường trước hậu quả, ghi lại chúng và cam kết thực hiện các biện pháp giảm thiểu.
Điểm số này xếp hệ thống vào một trong bốn mức độ tác động, mỗi mức đi kèm với các yêu cầu như đánh giá đồng cấp, thông báo và sự can thiệp của con người.
Các AIA của Canada đã hoàn thành được công bố trên cổng dữ liệu chính phủ mở, nhằm hỗ trợ tính minh bạch.
Điều 27 của Đạo luật AI đề cập đến đánh giá tác động quyền cơ bản (FRIA) đối với một số đơn vị triển khai hệ thống có rủi ro cao.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Đánh giá tác động của các quyền cơ bản theo Điều 27
xã hội