ДалееСледующее руководство
Японский APPI и генеративный искусственный интеллект
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
NIST AI 600-1 — это добровольный межотраслевой профиль, который применяет структуру управления рисками ИИ NIST к генеративному ИИ.
Прослушайте это руководствоОзвучено ИИ · ~3 min
В нем систематизированы 12 выявленных рисков и предлагаемых мер по категориям «Управление», «Картирование», «Измерение» и «Контроль», предоставляя командам структурированный ресурс, а не обязательный контрольный список для сертификации.
NIST published Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, numbered NIST AI 600-1, on July 26, 2024. It is a companion to AI RMF 1.0 and applies the framework’s functions, categories and subcategories to generative AI. NIST describes the underlying framework as intended for voluntary use. AI 600-1 therefore offers a common vocabulary and recommended risk-management actions; it does not itself impose legal duties or certify a product. The profile identifies 12 risks that are novel to or intensified by generative AI, including confabulation, harmful bias or homogenization, information integrity, information security, privacy, intellectual property, overreliance, environmental impacts, and value-chain or component-integration issues. It then provides suggested actions for managing those risks. Actions are organized against the AI RMF’s four functions: Govern establishes policies and accountability; Map identifies context and risks; Measure evaluates them; Manage prioritizes response and monitoring. Organizations can tailor the actions to their needs and priorities. AI 600-1 is cross-sectoral: it covers common generative-AI activities rather than one industry or model type. It can help developers, deployers, evaluators and buyers structure design reviews, procurement questions, testing and monitoring. A profile action may be useful even when it is not required by a regulation or contract. If an organization incorporates it into binding internal policy, procurement terms or a regulator-approved process, those separate sources can make compliance obligatory for that organization. A team should not mistake a voluntary NIST publication for law, a test pass, or evidence that all material risks have been eliminated.
Команда продукта использует обсуждение галлюцинаций из профиля, чтобы проверить, выдумывает ли помощник службы поддержки детали правил.
Группа закупок соотносит риски конфиденциальности данных и информационной безопасности с требованиями к размещенному генеративному сервису.
Команда по безопасности ИИ использует профиль для планирования тестирования на проникновение на предмет вредоносных вводных запросов и рисков злоупотреблений.
Стартап адаптирует предлагаемые действия к своей модели, контексту использования, ресурсам и склонности к риску, вместо того чтобы рассматривать каждое действие как обязательное.
Профиль NIST 2024 года остается опубликованным компаньоном AI RMF, а страница его публикации была обновлена в апреле 2026 года. Предлагаемые профилем действия могут поддерживать программы работы с рисками по мере изменения инструментов, в то время как сама структура остается добровольной при отсутствии отдельного мандата. Проверяйте страницу ресурсов NIST на наличие более поздних редакций, руководств или связанных профилей. Специастам следует пересматривать предлагаемые действия при изменении возможностей моделей, контекста развертывания или внешних зависимостей. Сравнивайте более поздние ресурсы NIST с этим профилем и любыми обязательными требованиями, а не воспринимайте новые рекомендации как автоматическую замену.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
NIST AI 600-1 — это добровольный межотраслевой профиль, который применяет структуру управления рисками ИИ NIST к генеративному ИИ. В нем систематизированы 12 выявленных рисков и предлагаемых мер по категориям «Управление», «Картирование», «Измерение» и «Контроль», предоставляя командам структурированный ресурс, а не обязательный контрольный список для сертификации.
NIST описывает AI 600-1 как межотраслевой профиль-компаньон для добровольного AI RMF.
AI 600-1 содержит предлагаемые действия, которые организации адаптируют под свои цели, склонность к риску и ресурсы.
Галлюцинации — один из рисков, специально выявленных в профиле.
Профиль представляет собой добровольное руководство и сам по себе не создает ни сертификата продукта, ни юридических обязательств.
Функция AI RMF Map устанавливает контекст и выявляет потенциальные риски.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Японский APPI и генеративный искусственный интеллект
Общество