ДаліНаступний посібник
Модель управління ризиками (SR 11-7) та ШІ
суспільство
Суспільство GUIDE
Фреймворк управління ризиками штучного інтелекту NIST
Фреймворк управління ризиками штучного інтелекту NIST (AI RMF 1.0) — це добровільний міжгалузевий фреймворк для управління ризиками для окремих осіб, організацій і суспільства під час проєктування, розробки, розгортання та використання штучного інтелекту.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Глибоке занурення
AI RMF 1.0 організовує діяльність з управління ризиками на чотири функції: Govern (Управління), Map (Картування), Measure (Вимірювання) та Manage (Управління/реагування). Govern є скрізною функцією; Map встановлює контекст та ідентифікує ризики; Measure аналізує ризики; Manage розставляє пріоритети та реагує на них. NIST описує фреймворк як добровільний. Довідник NIST AI RMF Playbook містить запропоновані дії, а Профіль генеративного штучного інтелекту 2024 року застосовує фреймворк до ризиків генеративного штучного інтелекту, таких як галюцинації (confabulation). Ці ресурси є рекомендаціями, а не юридичними вимогами чи сертифікатами.
Реалізація в реальному світі
Організація може використовувати функцію Govern для розподілу обов'язків і політик щодо управління ризиками штучного інтелекту.
Проєктна команда може використовувати функцію Map для документування свого контексту, цільового призначення та зацікавлених сторін, на яких це впливає.
Команда може використовувати функцію Measure для оцінки виявлених ризиків за допомогою відповідних якісних і кількісних методів.
Команда може використовувати функцію Manage, щоб розставити пріоритети для реагування та моніторингу залишкових ризиків.
Майбутнє NIST AI Risk Management Framework
Organizations may choose to use the AI RMF as one input to their own governance and risk-management processes. NIST may publish additional profiles, but adoption and crosswalks depend on the organization and applicable requirements. Check current NIST publications rather than assuming the framework is becoming a universal procurement or compliance baseline.
Застосування на практиці
Чому це важливо
- Ризики та безпека. Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
- Чіткіші рішення. Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
- Прорізаючи ажіотаж. Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Зверніть увагу на
- Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
- Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
- Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Наступні кроки
- Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
- Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
- Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
- Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the NIST AI Risk Management Framework quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is NIST AI Risk Management Framework?
Фреймворк управління ризиками штучного інтелекту NIST (AI RMF 1.0) — це добровільний міжгалузевий фреймворк для управління ризиками для окремих осіб, організацій і суспільства під час проєктування, розробки, розгортання та використання штучного інтелекту.
Які чотири основні функції NIST AI RMF?
Інфраструктура побудована навколо управління, картографування, вимірювання та керування, причому управління є наскрізною функцією, що живить інші.
Чи законодавчо вимагається дотримання NIST AI RMF?
AI RMF є явно добровільним і незалежним від сектору, пропонуючи керівництво, а не обов’язкові мандати.
Яка функція описана як наскрізна та додається до трьох інших?
Управління встановлює культуру, політику та структури підзвітності, які лежать в основі Map, Measure, and Manage.
Чому RMF розглядає надійність як набір компромісів?
Переваги в одній характеристиці, як-от точність, можуть відбуватися за рахунок іншої, як-от конфіденційності чи чесності, тому вони повинні бути збалансованими.
Що NIST додав до структури у 2024 році для вирішення великих мовних моделей?
Generative AI Profile 2024 розглядає ризики, унікальні для LLM, такі як конфабуляції, витік даних і шкідливий вміст.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми