HƯỚNG DẪN xã hội

Kiểm toán AI và đảm bảo của bên thứ ba

An AI audit is a structured evaluation of an AI system, or the organization running it, against defined criteria such as accuracy, fairness, safety, legal requirements or governance standards, carried out internally, by an independent third party, or under a regulator's mandate.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. The Future of AI Audits and Third-Party Assurance
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Third-party assurance matters because claims about AI systems are hard for outsiders to verify, and audits are becoming a main way regulators, buyers and the public check them.

Lặn sâu

AI audits differ in who does them and what they examine. Internal audits are run by the organization itself, ideally by a team separate from the builders; Raji and colleagues' 2020 framework proposed an end-to-end internal audit process across a system's development. External audits come from outsiders. Some are cooperative, with access to data and code; others are adversarial, like journalists or researchers testing a system through its public interface. Regulatory audits are required or performed under law. Methods fall into three broad groups. Governance or process audits check policies, documentation, roles and risk management. Technical audits test the model: performance across subgroups, robustness, security, and behaviour on edge cases, sometimes including red teaming. Outcome audits look at real-world effects, for example comparing decisions across groups or using sock-puppet accounts to probe a recommendation system. Conformity assessment is a related legal concept. Under the EU AI Act, providers of high-risk systems must show compliance before placing them on the market. For most standalone high-risk uses this is an internal control procedure, while certain biometric systems and AI in products already covered by EU safety laws may involve a notified body. New York City's Local Law 144 requires independent bias audits for automated employment decision tools, and the EU Digital Services Act requires independent audits of very large online platforms. Independence is the persistent weakness. Auditors are usually paid by the company being audited, may receive limited access, and often work without agreed standards for what counts as passing. Critics warn of audit-washing, where a narrow audit is presented as a clean bill of health. A common misconception is that an audit certifies a system as safe or fair in general; it only speaks to the criteria, scope and time period examined.

Triển khai trong thế giới thực

An employer in New York City using an automated resume screening tool commissions an independent bias audit that reports selection rate impact ratios by sex and race or ethnicity categories, as the city's Local Law 144 requires.

Researchers query commercial face analysis services with a balanced set of faces and publish error rates by skin type and gender, an external audit carried out without the vendors' cooperation, like the 2018 Gender Shades study.

A software company seeks certification of its AI management system against ISO/IEC 42001 from an accredited certification body so enterprise customers can see its governance controls have been checked.

A very large online platform in the EU undergoes an annual independent audit of its risk management, including its recommender systems, under the Digital Services Act.

The Future of AI Audits and Third-Party Assurance

An AI assurance industry is forming, including accounting firms, specialist startups, testing labs and certification bodies. Standards work, such as ISO/IEC 42001 for management systems and related standards for bodies that certify them, aims to make audits more comparable. Governments including the UK have published plans to grow AI assurance as a market. Key unresolved issues are auditor accreditation, access to model internals for external researchers, and who pays without creating conflicts of interest. Audits of general-purpose models are especially immature, since their uses are open-ended. Expect gradual professionalisation rather than a single agreed method in the near term.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the AI Audits and Third-Party Assurance quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

What is AI Audits and Third-Party Assurance?

An AI audit is a structured evaluation of an AI system, or the organization running it, against defined criteria such as accuracy, fairness, safety, legal requirements or governance standards, carried out internally, by an independent third party, or under a regulator's mandate. Third-party assurance matters because claims about AI systems are hard for outsiders to verify, and audits are becoming a main way regulators, buyers and the public check them.

Điều nào mô tả một cuộc kiểm toán độc lập bên ngoài?

Kiểm toán bên ngoài đối nghịch được thực hiện bởi người ngoài, chẳng hạn như nhà báo hoặc nhà nghiên cứu, thăm dò một hệ thống mà không có sự hợp tác hoặc quyền truy cập đặc quyền.

Kiểm toán quản trị hoặc quy trình chủ yếu kiểm tra những gì?

Kiểm tra quy trình kiểm tra cách tổ chức quản lý AI, thay vì kiểm tra trực tiếp mô hình.

Luật Địa phương 144 của NYC yêu cầu những gì đối với các công cụ quyết định việc làm tự động?

Luật địa phương 144 yêu cầu kiểm toán thiên vị độc lập, bao gồm tỷ lệ tác động theo danh mục nhân khẩu học.

Tỷ lệ tác động được sử dụng trong kiểm toán sai lệch của NYC được tính toán như thế nào?

Tỷ lệ tác động so sánh tỷ lệ lựa chọn của từng danh mục với tỷ lệ lựa chọn của danh mục được chọn nhiều nhất.

Theo Đạo luật AI của EU, hầu hết các hệ thống độc lập có rủi ro cao đều trải qua quá trình đánh giá sự phù hợp như thế nào?

Hầu hết các hoạt động sử dụng độc lập có rủi ro cao đều tuân theo kiểm soát nội bộ, trong khi một số hệ thống sinh trắc học và sản phẩm được quản lý nhất định có thể có sự tham gia của cơ quan được thông báo.