Marco de gestión de riesgos de IA del NIST
El Marco de Gestión de Riesgos de IA del NIST (AI RMF) es un manual voluntario del gobierno de EE. UU. para crear una IA confiable mediante la identificación y la gestión de sus riesgos a lo largo del ciclo de vida.
Descripción general
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Buceo profundo
Lanzado por el Instituto Nacional de Estándares y Tecnología de EE. UU. en enero de 2023, AI RMF 1.0 es voluntario e independiente del sector. Está organizado en torno a cuatro funciones principales: Gobernar (construir una cultura y políticas para el riesgo de IA), Mapear (comprender el contexto e identificar riesgos), Medir (analizar y rastrear riesgos con métricas) y Administrar (priorizar y actuar sobre esos riesgos). El marco define las características de una IA confiable: válida y confiable, segura y resiliente, responsable y transparente, explicable e interpretable, con privacidad mejorada y justa con manejo de sesgos dañinos. El NIST también publica un libro de estrategias complementario con acciones sugeridas concretas y, en 2024, agregó un perfil de IA generativa que aborda los riesgos exclusivos de los grandes modelos lingüísticos, como la confabulación, la fuga de datos y el contenido dañino.
Información técnica
A diferencia de una lista de verificación, el RMF trata la confiabilidad como un conjunto de compensaciones que deben equilibrarse, ya que mejorar una propiedad (por ejemplo, la precisión) puede degradar otra (por ejemplo, la privacidad o la equidad). La función de Gobernar es transversal y alimenta las otras tres. La medida enfatiza el uso tanto de métricas cuantitativas como de métodos cualitativos, incluidos los equipos rojos y la evaluación humana, porque muchos daños de la IA se resisten a la captura puramente numérica. Los resultados, no las herramientas específicas, son lo que especifica el marco.
Impacto Estratégico
Riesgo y seguridad
Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
Decisiones más claras
La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
Cutting through hype
Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
El futuro del marco de gestión de riesgos de IA del NIST
Se espera que el RMF se convierta en una base de referencia común que se corresponda con regímenes vinculantes como la Ley de IA de la UE y las leyes estatales emergentes de EE. UU., facilitando el cumplimiento en múltiples jurisdicciones. El NIST continúa publicando perfiles para contextos y tecnologías específicos, con la IA generativa como foco principal. Las directrices de las agencias y las adquisiciones federales apuntan cada vez más al RMF, y los cruces hacia estándares como ISO/IEC 42001 están aumentando, lo que lo convierte en un tejido conectivo para la gobernanza global de la IA, aunque sigue siendo voluntario.
Implementación en el mundo real
Una empresa de tecnología mapea el contexto de una nueva contratación de IA, enumera los grupos afectados y los daños potenciales antes de que se envíe cualquier código, cumpliendo la función de Mapa.
Un banco establece un comité de gobernanza de IA y políticas de riesgo escritas para satisfacer la función de gobernanza en todos sus modelos.
Un equipo utiliza métricas de sesgo y equipo rojo para cuantificar los modos de falla de un chatbot bajo la función Medir.
Una aseguradora de salud sigue el perfil de IA generativa para abordar los riesgos de confabulación y fuga de datos en un LLM orientado al cliente.
Riesgos y barandillas
Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Hoja de ruta de implementación
Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Gestión de productos de IA
Preguntas frecuentes
What is NIST AI Risk Management Framework?
El Marco de Gestión de Riesgos de IA del NIST (AI RMF) es un manual voluntario del gobierno de EE. UU. para crear una IA confiable mediante la identificación y la gestión de sus riesgos a lo largo del ciclo de vida. Es importante porque brinda a las organizaciones una estructura práctica y flexible para poner en práctica una IA responsable sin ser una ley vinculante.
¿Cuáles son las cuatro funciones principales del NIST AI RMF?
El marco se basa en Gobernar, Mapear, Medir y Gestionar, con Gobernar como una función transversal que alimenta a las demás.
¿Se exige legalmente el cumplimiento del NIST AI RMF?
El AI RMF es explícitamente voluntario e independiente del sector, y ofrece orientación en lugar de mandatos exigibles.
¿Qué función se describe como transversal y alimenta a las otras tres?
Gobernar establece la cultura, las políticas y las estructuras de rendición de cuentas que sustentan Mapear, Medir y Gestionar.
¿Por qué el RMF trata la confiabilidad como un conjunto de compensaciones?
Las ganancias en una característica, como la precisión, pueden producirse a costa de otras, como la privacidad o la equidad, por lo que deben equilibrarse.
¿Qué agregó el NIST al marco en 2024 para abordar modelos de lenguajes grandes?
El perfil de IA generativa 2024 aborda los riesgos exclusivos de los LLM, como la confabulación, la filtración de datos y el contenido dañino.