Estrutura de gerenciamento de risco de IA do NIST
O NIST AI Risk Management Framework (AI RMF) é um manual voluntário do governo dos EUA para construir uma IA confiável, identificando e gerenciando seus riscos ao longo do ciclo de vida.
Visão geral
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Mergulho profundo
Lançado pelo Instituto Nacional de Padrões e Tecnologia dos EUA em janeiro de 2023, o AI RMF 1.0 é voluntário e independente do setor. Está organizado em torno de quatro funções principais: Governar (construir uma cultura e políticas para o risco de IA), Mapear (compreender o contexto e identificar riscos), Medir (analisar e acompanhar riscos com métricas) e Gerir (priorizar e agir sobre esses riscos). A estrutura define características de IA confiável: válida e confiável, segura, protegida e resiliente, responsável e transparente, explicável e interpretável, com privacidade aprimorada e justa, com gerenciamento de preconceitos prejudiciais. O NIST também publica um Playbook complementar com sugestões de ações concretas e, em 2024, adicionou um Perfil de IA Generativa que aborda riscos exclusivos de grandes modelos de linguagem, como confabulação, vazamento de dados e conteúdo prejudicial.
Visão Técnica
Ao contrário de uma lista de verificação, o RMF trata a fiabilidade como um conjunto de compromissos a serem equilibrados, uma vez que melhorar uma propriedade (por exemplo, a precisão) pode degradar outra (por exemplo, privacidade ou justiça). A função Governar é transversal e alimenta as outras três. A Measure enfatiza o uso de métricas quantitativas e métodos qualitativos, incluindo red-teaming e avaliação humana, porque muitos danos da IA resistem à captura puramente numérica. Os resultados, e não as ferramentas específicas, são o que a estrutura especifica.
Impacto Estratégico
Risco e segurança
Os danos catastróficos e diários da IA dependem de quem entende os riscos e de quem pode agir.
Decisões mais claras
A literacia pública e profissional determina se uma política de segurança forte é politicamente possível.
Cortando o hype
Explicações claras reduzem a captura por exageros, relações públicas de laboratório e teatro de ética vaga.
O futuro da estrutura de gerenciamento de risco de IA do NIST
Esperemos que o RMF se torne uma linha de base de referência comum que mapeie regimes vinculativos como a Lei da UE sobre IA e leis estaduais emergentes dos EUA, facilitando o cumprimento em múltiplas jurisdições. O NIST continua a lançar perfis para contextos e tecnologias específicos, com foco principal na IA generativa. As compras federais e as orientações das agências apontam cada vez mais para o RMF, e as barreiras para normas como a ISO/IEC 42001 estão a aumentar, tornando-o um tecido conjuntivo para a governação global da IA, embora continue a ser voluntário.
Implementação no mundo real
Uma empresa de tecnologia mapeia o contexto de uma nova IA de contratação, listando os grupos afetados e os possíveis danos antes que qualquer código seja enviado, cumprindo a função de Mapa.
Um banco cria um comité de governação de IA e escreve políticas de risco para satisfazer a função de Governação em todos os seus modelos.
Uma equipe usa red-teaming e métricas de polarização para quantificar os modos de falha de um chatbot na função Medir.
Uma seguradora de saúde segue o Perfil Generativo de IA para lidar com riscos de confabulação e vazamento de dados em um LLM voltado para o cliente.
Riscos e guarda-corpos
Tratar o risco existencial como ficção científica enquanto aumenta a capacidade.
Confundir segurança do produto de superfície com alinhamento sob alta autonomia.
Deixando o público não-inglês e não especializado com apenas fontes de baixa qualidade.
Roteiro de implementação
Separe os riscos de danos ao produto, uso indevido e perda de controle/desalinhamento.
Pergunte quais evidências mudariam sua visão sobre prazos e gravidade.
Prefira fontes primárias e avaliações concretas em vez de afirmações de marketing.
Identifique um caminho de ação: carreira, política, financiamento ou habilidades – não apenas conscientização.
Continue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Próximo guia
Gerenciamento de produtos de IA
Perguntas frequentes
What is NIST AI Risk Management Framework?
O NIST AI Risk Management Framework (AI RMF) é um manual voluntário do governo dos EUA para construir uma IA confiável, identificando e gerenciando seus riscos ao longo do ciclo de vida. É importante porque dá às organizações uma estrutura prática e flexível para operacionalizar a IA responsável sem ser uma lei vinculativa.
Quais são as quatro funções principais do NIST AI RMF?
O quadro é construído em torno de Governar, Mapear, Medir e Gerir, com Governar como uma função transversal que alimenta as outras.
A conformidade com o NIST AI RMF é legalmente exigida?
O AI RMF é explicitamente voluntário e independente do setor, oferecendo orientações em vez de mandatos executáveis.
Qual função é descrita como transversal e alimentando as outras três?
Governar estabelece a cultura, as políticas e as estruturas de responsabilização que sustentam Mapear, Medir e Gerenciar.
Porque é que o RMF trata a fiabilidade como um conjunto de compensações?
Os ganhos numa característica, como a precisão, podem ocorrer às custas de outra, como a privacidade ou a justiça, pelo que devem ser equilibrados.
O que o NIST adicionou à estrutura em 2024 para abordar grandes modelos de linguagem?
O Perfil Generativo de IA 2024 aborda riscos exclusivos dos LLMs, como confabulação, vazamento de dados e conteúdo prejudicial.