HƯỚNG DẪN xã hội

Đánh giá tác động thuật toán

Đánh giá tác động thuật toán (AIA) là một quá trình xem xét có cấu trúc, được thực hiện trước và trong quá trình triển khai, nhằm xác định những ai có thể bị ảnh hưởng bởi hệ thống tự động hoặc AI, những tác hại mà hệ thống có thể gây ra và các biện pháp bảo vệ giúp giảm thiểu tác hại đó.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của việc đánh giá tác động thuật toán
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Điều này quan trọng vì nó buộc các tổ chức phải ghi lại các rủi ro và quyết định trước, và các quy định như Chỉ thị về Ra quyết định Tự động của Canada và Đạo luật AI của EU hiện yêu cầu các phiên bản của quy trình này.

Lặn sâu

An AIA borrows from environmental and privacy impact assessments: think through consequences before acting, write them down, and commit to mitigations. A good assessment usually covers the system's purpose and legal basis; the decision it supports and how much it replaces human judgement; data sources and their quality; affected groups, especially vulnerable ones; foreseeable harms such as discrimination, error, privacy loss or exclusion; oversight, explanation and appeal routes; and a plan for monitoring and review. Canada offers the best-known government example. Its Directive on Automated Decision-Making, in force since 2019, requires federal institutions to complete an Algorithmic Impact Assessment before using automated decision systems. The AIA is an online questionnaire with risk questions and mitigation questions. The score places the system at one of four impact levels, from little to very high impact, and each level triggers specific requirements, such as peer review, notice to affected people, human intervention in decisions and explanation. Completed assessments are published on the government's open data portal. The EU AI Act adds a fundamental rights impact assessment (FRIA) under Article 27. It applies to deployers of high-risk systems that are public bodies or private entities providing public services, and to deployers of certain systems such as credit scoring and life and health insurance pricing. The FRIA describes how and how often the system is used, who is affected, the specific risks, human oversight measures and what happens if risks materialise, and the deployer notifies the market surveillance authority. It complements, rather than replaces, a data protection impact assessment under the GDPR. A common misconception is that an AIA is a one-time compliance form. Its value comes from changing design decisions and from being revisited when the system, data or context changes.

Triển khai trong thế giới thực

Một bộ phận liên bang của Canada dự định sử dụng một mô hình để phân loại đơn xin thị thực sẽ hoàn thành bảng câu hỏi AIA trực tuyến của chính phủ, nhận mức độ tác động, sau đó phải sắp xếp việc đánh giá đồng cấp và sự tham gia của con người vào các quyết định cuối cùng theo yêu cầu của mức độ đó.

Một ngân hàng khu vực ở EU triển khai hệ thống chấm điểm tín dụng có rủi ro cao sẽ chuẩn bị một bản đánh giá tác động quyền cơ bản mô tả các nhóm người nộp đơn bị ảnh hưởng, rủi ro phân biệt đối xử, các thỏa thuận giám sát của con người và cách thức xử lý các khiếu nại.

Một cơ quan nhà ở thành phố đang cân nhắc công cụ chấm điểm rủi ro người thuê nhà sẽ tiến hành tham vấn công khai như một phần của quá trình đánh giá, và quyết định loại bỏ lịch sử trục xuất làm yếu tố đầu vào sau khi các nhà vận động chỉ ra rằng nó phản ánh tình trạng phân biệt đối xử trong quá khứ.

Một bệnh viện áp dụng mô hình cảnh báo nhiễm trùng máu cập nhật bản đánh giá tác động sau một năm sử dụng, bổ sung việc theo dõi tỷ lệ báo động giả giữa các khoa phòng và nhóm bệnh nhân.

Tương lai của việc đánh giá tác động thuật toán

Đánh giá tác động đang trở thành một phần tiêu chuẩn của quản trị AI thay vì chỉ là một bài tập đạo đức tùy chọn. Khi các nghĩa vụ của Đạo luật AI của EU đối với các hệ thống rủi ro cao có hiệu lực, các tổ chức sẽ cần các mẫu có thể lặp lại, và các cơ quan quản lý có thể công bố thêm hướng dẫn về nội dung cần có trong một bản FRIA đầy đủ. Các tiêu chuẩn như ISO/IEC 42005 có thể giúp đồng bộ hóa thực tiễn giữa các quốc gia. Các câu hỏi bỏ ngỏ là chất lượng và tính độc lập: các bản đánh giá do chính nhóm muốn triển khai hệ thống viết ra có thể trở thành hình thức đối phó. Việc công bố các bản đánh giá, tham vấn công khai có ý nghĩa và đánh giá độc lập bên ngoài là những cơ chế có nhiều khả năng giữ cho chúng minh bạch nhất, nhưng mức độ áp dụng rộng rãi ra sao vẫn chưa chắc chắn.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Tham gia bài kiểm tra về Đánh giá Tác động Thuật toán

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Đánh giá tác động thuật toán là gì?

Đánh giá tác động thuật toán (AIA) là một quá trình xem xét có cấu trúc, được thực hiện trước và trong quá trình triển khai, nhằm xác định những ai có thể bị ảnh hưởng bởi hệ thống tự động hoặc AI, những tác hại mà hệ thống có thể gây ra và các biện pháp bảo vệ giúp giảm thiểu tác hại đó. Điều này quan trọng vì nó buộc các tổ chức phải ghi lại các rủi ro và quyết định trước, và các quy định như Chỉ thị về Ra quyết định Tự động của Canada và Đạo luật AI của EU hiện yêu cầu các phiên bản của quy trình này.

Mục đích chính của việc đánh giá tác động thuật toán là gì?

AIA là một quá trình xem xét có cấu trúc về những người bị ảnh hưởng, các tác hại có thể lường trước và các biện pháp giảm thiểu, được thực hiện trước và xem xét lại theo thời gian.

Những loại đánh giá nào đã truyền cảm hứng cho phương pháp AIA?

AIA mượn ý tưởng từ đánh giá tác động môi trường và quyền riêng tư: lường trước hậu quả, ghi lại chúng và cam kết thực hiện các biện pháp giảm thiểu.

Trong AIA của Canada, điểm số của bảng câu hỏi xác định điều gì?

Điểm số này xếp hệ thống vào một trong bốn mức độ tác động, mỗi mức đi kèm với các yêu cầu như đánh giá đồng cấp, thông báo và sự can thiệp của con người.

Các Đánh giá Tác động AI (AIA) đã hoàn thành của Canada được công bố ở đâu?

Các AIA của Canada đã hoàn thành được công bố trên cổng dữ liệu chính phủ mở, nhằm hỗ trợ tính minh bạch.

Theo Đạo luật AI của EU, điều khoản nào quy định về đánh giá tác động quyền cơ bản?

Điều 27 của Đạo luật AI đề cập đến đánh giá tác động quyền cơ bản (FRIA) đối với một số đơn vị triển khai hệ thống có rủi ro cao.