Tiếp theoHướng dẫn tiếp theo
Mô hình quản lý rủi ro (SR 11-7) và AI
xã hội
HƯỚNG DẪN xã hội
Quản lý AI ISO/IEC 42001
ISO/IEC 42001 là tiêu chuẩn quốc tế đầu tiên dành cho Hệ thống quản lý trí tuệ nhân tạo (AIMS), cung cấp cho các tổ chức một cách thức có thể chứng nhận để quản lý AI một cách có trách nhiệm.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Tổng quan
It matters because, like ISO 27001 for security, it lets a company prove its AI practices to customers, regulators, and partners through independent audit.
Lặn sâu
Được xuất bản vào tháng 12 năm 2023, ISO/IEC 42001 nêu rõ các yêu cầu để thiết lập, triển khai, duy trì và cải tiến liên tục hệ thống quản lý AI trong tổ chức. Nó tuân theo cấu trúc ISO cấp cao quen thuộc được xây dựng theo chu trình Plan-Do-Check-Act và được thiết kế để tích hợp với các tiêu chuẩn quản lý khác như ISO 9001 (chất lượng) và ISO 27001 (bảo mật thông tin). Các yêu cầu cốt lõi bao gồm xác định bối cảnh của tổ chức, cam kết của lãnh đạo, chính sách AI, đánh giá rủi ro và tác động, kiểm soát hoạt động, giám sát hiệu suất, kiểm toán nội bộ và đánh giá quản lý. Một công cụ quan trọng là đánh giá tác động của AI, xem xét các tác động đối với cá nhân và xã hội, không chỉ tổ chức. Phụ lục A liệt kê các biện pháp kiểm soát tham chiếu bao gồm chất lượng dữ liệu, tính minh bạch, trách nhiệm giải trình và vòng đời của hệ thống AI. Điều quan trọng là nó có thể được chứng nhận: một cơ quan được công nhận có thể đánh giá và chứng nhận sự phù hợp.
Triển khai trong thế giới thực
Một nhà cung cấp phần mềm doanh nghiệp đạt được chứng nhận ISO/IEC 42001 để giành được hợp đồng với những khách hàng không thích rủi ro và yêu cầu bằng chứng về quản trị AI có trách nhiệm.
Một công ty tiến hành đánh giá tác động của AI trên công cụ đề xuất mới, đánh giá tác động đối với người dùng và xã hội trước khi ra mắt.
Một công ty đã được chứng nhận đạt tiêu chuẩn ISO 27001 trên AIMS, sử dụng lại các quy trình kiểm tra và kiểm soát tài liệu hiện có của mình theo cấu trúc Phụ lục SL chung.
Một tổ chức áp dụng các biện pháp kiểm soát của Phụ lục A về chất lượng và tính minh bạch của dữ liệu, sau đó trải qua cuộc đánh giá nội bộ trước cuộc đánh giá chứng nhận được công nhận.
Tương lai của quản lý AI ISO/IEC 42001
Khi quy định được thắt chặt, chứng nhận ISO/IEC 42001 sẵn sàng trở thành tín hiệu thị trường về AI đáng tin cậy, giống như ISO 27001 đã trở thành tiêu chuẩn bảo mật. Các bước đi tới Đạo luật AI của EU và NIST AI RMF đang xuất hiện, vì vậy chứng nhận có thể giúp chứng minh sự sẵn sàng về mặt quy định và hợp lý hóa hoạt động mua sắm. Mong đợi các tiêu chuẩn hỗ trợ về quản lý rủi ro AI (ISO/IEC 23894), thuật ngữ và thử nghiệm sẽ hoàn thiện hệ sinh thái, khi các nhà cung cấp đám mây và AI theo đuổi chứng nhận để trấn an khách hàng doanh nghiệp.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
- Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
- Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
coi chừng
- Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
- Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
- Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Các bước tiếp theo
- Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
- Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
- Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
- Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the ISO/IEC 42001 AI Management quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
What is ISO/IEC 42001 AI Management?
ISO/IEC 42001 là tiêu chuẩn quốc tế đầu tiên dành cho Hệ thống quản lý trí tuệ nhân tạo (AIMS), cung cấp cho các tổ chức một cách thức có thể chứng nhận để quản lý AI một cách có trách nhiệm. Điều này quan trọng bởi vì, giống như ISO 27001 về bảo mật, nó cho phép một công ty chứng minh các hoạt động AI của mình với khách hàng, cơ quan quản lý và đối tác thông qua kiểm toán độc lập.
ISO/IEC 42001 thiết lập những gì?
ISO/IEC 42001 chỉ định các yêu cầu đối với Hệ thống quản lý AI, một cách có cấu trúc, có thể kiểm tra để quản lý AI trong một tổ chức.
Chu trình quản lý nào làm nền tảng cho ISO/IEC 42001?
Giống như các tiêu chuẩn quản lý ISO khác, nó tuân theo chu trình cải tiến liên tục Plan-Do-Check-Act.
Which statement correctly describes certification under ISO/IEC 42001 compared with the NIST AI RMF?
NIST describes its AI RMF as voluntary. ISO states its standards are voluntary and says certification to ISO/IEC 42001 is voluntary; ISO itself does not certify organizations. A separate law or contract can impose additional requirements.
Công cụ đặc biệt được ISO/IEC 42001 yêu cầu là gì?
Tiêu chuẩn này yêu cầu đánh giá tác động của AI trong đó xem xét hậu quả đối với cá nhân và xã hội, không chỉ tổ chức.
Tại sao ISO/IEC 42001 dễ kết hợp với ISO 27001 hay ISO 9001?
Cấu trúc Phụ lục SL chung cho phép các tổ chức tích hợp AIMS với các hệ thống quản lý được chứng nhận hiện có, tái sử dụng các quy trình.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này