Tiếp theoHướng dẫn tiếp theo
Mô hình quản lý rủi ro (SR 11-7) và AI
xã hội
HƯỚNG DẪN xã hội
Khung quản lý rủi ro NIST AI
NIST’s AI Risk Management Framework (AI RMF 1.0) is a voluntary, cross-sector framework for managing risks to individuals, organizations and society across AI design, development, deployment and use.
Nghe hướng dẫn nàyAI thuật lại · ~2 min
Trên trang nàyĐọc trong 2 phút
Lặn sâu
The AI RMF 1.0 organizes risk-management activities into Govern, Map, Measure and Manage. Govern is cross-cutting; Map establishes context and identifies risks; Measure analyzes risks; Manage prioritizes and responds to them. NIST describes the framework as voluntary. NIST’s AI RMF Playbook provides suggested actions, and the 2024 Generative AI Profile applies the framework to generative-AI risks such as confabulation. These resources are guidance, not legal requirements or certifications.
Triển khai trong thế giới thực
An organization can use Govern to assign responsibilities and policies for AI risk management.
A project team can use Map to document its context, intended use and affected stakeholders.
A team can use Measure to evaluate identified risks with appropriate qualitative and quantitative methods.
A team can use Manage to prioritize responses and monitor residual risks.
Tương lai của Khung quản lý rủi ro AI của NIST
Organizations may choose to use the AI RMF as one input to their own governance and risk-management processes. NIST may publish additional profiles, but adoption and crosswalks depend on the organization and applicable requirements. Check current NIST publications rather than assuming the framework is becoming a universal procurement or compliance baseline.
Đưa nó vào thực tế
Tại sao nó quan trọng
- Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
- Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
- Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.
coi chừng
- Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
- Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
- Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.
Các bước tiếp theo
- Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
- Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
- Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
- Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.
Tiếp tục khám phá
Bản tin miễn phí
Nhận bản tóm tắt AI hàng ngày
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Take the NIST AI Risk Management Framework quiz
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Câu hỏi thường gặp
What is NIST AI Risk Management Framework?
NIST’s AI Risk Management Framework (AI RMF 1.0) is a voluntary, cross-sector framework for managing risks to individuals, organizations and society across AI design, development, deployment and use.
Bốn chức năng cốt lõi của NIST AI RMF là gì?
Khung này được xây dựng xoay quanh Quản trị, Lập bản đồ, Đo lường và Quản lý, trong đó Quản trị là một chức năng xuyên suốt cung cấp cho các chức năng khác.
Việc tuân thủ NIST AI RMF có bắt buộc về mặt pháp lý không?
AI RMF rõ ràng là tự nguyện và không phân biệt ngành, đưa ra hướng dẫn thay vì các nhiệm vụ có thể thực thi.
Chức năng nào được mô tả là xuyên suốt và bổ sung vào ba chức năng còn lại?
Chính phủ thiết lập văn hóa, chính sách và cấu trúc trách nhiệm giải trình làm nền tảng cho Bản đồ, Đo lường và Quản lý.
Tại sao RMF coi sự đáng tin cậy như một sự đánh đổi?
Lợi ích ở một đặc điểm, như độ chính xác, có thể phải trả giá bằng một đặc điểm khác, như quyền riêng tư hoặc sự công bằng, vì vậy chúng phải được cân bằng.
NIST đã bổ sung gì vào khuôn khổ vào năm 2024 để giải quyết các mô hình ngôn ngữ lớn?
Cấu hình AI thế hệ 2024 giải quyết các rủi ro đặc thù đối với LLM, chẳng hạn như sự nhầm lẫn, rò rỉ dữ liệu và nội dung có hại.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này