Khung quản lý rủi ro NIST AI
Khung quản lý rủi ro AI của NIST (AI RMF) là một cẩm nang tự nguyện của chính phủ Hoa Kỳ nhằm xây dựng AI đáng tin cậy bằng cách xác định và quản lý rủi ro trong suốt vòng đời của nó.
Tổng quan
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Lặn sâu
Được Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ phát hành vào tháng 1 năm 2023, AI RMF 1.0 là tự nguyện và không phân biệt ngành. Nó được tổ chức xoay quanh bốn chức năng cốt lõi: Quản trị (xây dựng văn hóa và chính sách cho rủi ro AI), Bản đồ (hiểu bối cảnh và xác định rủi ro), Đo lường (phân tích và theo dõi rủi ro bằng số liệu) và Quản lý (ưu tiên và hành động đối với những rủi ro đó). Khung này xác định các đặc điểm của AI đáng tin cậy: hợp lệ và đáng tin cậy, an toàn, bảo mật và linh hoạt, có trách nhiệm và minh bạch, có thể giải thích và diễn giải, tăng cường quyền riêng tư và công bằng với sự thiên vị có hại được quản lý. NIST cũng xuất bản Playbook đồng hành với các hành động được đề xuất cụ thể và vào năm 2024 đã bổ sung Hồ sơ AI sáng tạo nhằm giải quyết các rủi ro chỉ có ở các mô hình ngôn ngữ lớn như nhầm lẫn, rò rỉ dữ liệu và nội dung có hại.
Hiểu biết kỹ thuật
Không giống như danh sách kiểm tra, RMF coi độ tin cậy là một tập hợp các sự đánh đổi cần được cân bằng, vì việc cải thiện một thuộc tính (chẳng hạn như độ chính xác) có thể làm suy giảm thuộc tính khác (chẳng hạn như quyền riêng tư hoặc tính công bằng). Chức năng Quản trị có tính xuyên suốt và hỗ trợ ba chức năng còn lại. Biện pháp nhấn mạnh việc sử dụng cả số liệu định lượng và phương pháp định tính, bao gồm cả đánh giá con người và đánh giá con người, bởi vì nhiều tác hại của AI chống lại việc thu thập số liệu thuần túy. Kết quả, chứ không phải công cụ cụ thể, mới là những gì khuôn khổ quy định.
Tác động chiến lược
Rủi ro và an toàn
Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
Quyết định rõ ràng hơn
Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
Phá vỡ sự thổi phồng
Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
Tương lai của Khung quản lý rủi ro AI của NIST
Kỳ vọng RMF sẽ trở thành một cơ sở tham chiếu chung ánh xạ tới các chế độ ràng buộc như Đạo luật AI của EU và các luật mới của các bang của Hoa Kỳ, giúp giảm bớt việc tuân thủ đa khu vực pháp lý. NIST tiếp tục phát hành hồ sơ cho các bối cảnh và công nghệ cụ thể, trong đó trọng tâm chính là AI tổng hợp. Hướng dẫn của cơ quan và mua sắm liên bang ngày càng hướng tới RMF và các tiêu chuẩn như ISO/IEC 42001 đang ngày càng gia tăng, khiến nó trở thành mô liên kết để quản trị AI toàn cầu mặc dù nó vẫn mang tính tự nguyện.
Triển khai trong thế giới thực
Một công ty công nghệ lập bản đồ bối cảnh của một AI tuyển dụng mới, liệt kê các nhóm bị ảnh hưởng và những tác hại tiềm ẩn trước khi gửi bất kỳ mã nào, hoàn thành chức năng Bản đồ.
Một ngân hàng thành lập ủy ban quản trị AI và viết ra các chính sách rủi ro để đáp ứng chức năng Quản trị trên tất cả các mô hình của mình.
Một nhóm sử dụng các chỉ số sai lệch và nhóm đỏ để định lượng các chế độ lỗi của chatbot trong chức năng Đo lường.
Một công ty bảo hiểm sức khỏe tuân theo Hồ sơ AI sáng tạo để giải quyết các rủi ro về sự nhầm lẫn và rò rỉ dữ liệu trong LLM hướng tới khách hàng.
Rủi ro & lan can
Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Lộ trình thực hiện
Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Quản lý sản phẩm AI
Câu hỏi thường gặp
What is NIST AI Risk Management Framework?
Khung quản lý rủi ro AI của NIST (AI RMF) là một cẩm nang tự nguyện của chính phủ Hoa Kỳ nhằm xây dựng AI đáng tin cậy bằng cách xác định và quản lý rủi ro trong suốt vòng đời của nó. Nó quan trọng vì nó mang lại cho các tổ chức một cấu trúc thực tế, linh hoạt để vận hành AI có trách nhiệm mà không phải là luật ràng buộc.
Bốn chức năng cốt lõi của NIST AI RMF là gì?
Khung này được xây dựng xoay quanh Quản trị, Lập bản đồ, Đo lường và Quản lý, trong đó Quản trị là một chức năng xuyên suốt cung cấp cho các chức năng khác.
Việc tuân thủ NIST AI RMF có bắt buộc về mặt pháp lý không?
AI RMF rõ ràng là tự nguyện và không phân biệt ngành, đưa ra hướng dẫn thay vì các nhiệm vụ có thể thực thi.
Chức năng nào được mô tả là xuyên suốt và bổ sung vào ba chức năng còn lại?
Chính phủ thiết lập văn hóa, chính sách và cấu trúc trách nhiệm giải trình làm nền tảng cho Bản đồ, Đo lường và Quản lý.
Tại sao RMF coi sự đáng tin cậy như một sự đánh đổi?
Lợi ích ở một đặc điểm, như độ chính xác, có thể phải trả giá bằng một đặc điểm khác, như quyền riêng tư hoặc sự công bằng, vì vậy chúng phải được cân bằng.
NIST đã bổ sung gì vào khuôn khổ vào năm 2024 để giải quyết các mô hình ngôn ngữ lớn?
Cấu hình AI thế hệ 2024 giải quyết các rủi ro đặc thù đối với LLM, chẳng hạn như sự nhầm lẫn, rò rỉ dữ liệu và nội dung có hại.