À suivreGuide suivant
Gestion des risques de modèle (SR 11-7) et IA
Société
GUIDE DE LA SOCIÉTÉ
Cadre de gestion des risques liés à l'IA du NIST
NIST’s AI Risk Management Framework (AI RMF 1.0) is a voluntary, cross-sector framework for managing risks to individuals, organizations and society across AI design, development, deployment and use.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Plongée profonde
The AI RMF 1.0 organizes risk-management activities into Govern, Map, Measure and Manage. Govern is cross-cutting; Map establishes context and identifies risks; Measure analyzes risks; Manage prioritizes and responds to them. NIST describes the framework as voluntary. NIST’s AI RMF Playbook provides suggested actions, and the 2024 Generative AI Profile applies the framework to generative-AI risks such as confabulation. These resources are guidance, not legal requirements or certifications.
Mise en œuvre dans le monde réel
An organization can use Govern to assign responsibilities and policies for AI risk management.
A project team can use Map to document its context, intended use and affected stakeholders.
A team can use Measure to evaluate identified risks with appropriate qualitative and quantitative methods.
A team can use Manage to prioritize responses and monitor residual risks.
L'avenir du cadre de gestion des risques liés à l'IA du NIST
Organizations may choose to use the AI RMF as one input to their own governance and risk-management processes. NIST may publish additional profiles, but adoption and crosswalks depend on the organization and applicable requirements. Check current NIST publications rather than assuming the framework is becoming a universal procurement or compliance baseline.
Le mettre en pratique
Pourquoi c'est important
- Risques et sécurité. Les dommages catastrophiques et quotidiens causés par l’IA dépendent tous deux de la personne qui comprend les risques et qui peut agir.
- Décisions plus claires. Les connaissances du public et des professionnels déterminent si une politique de sécurité forte est politiquement possible.
- Passer à travers le battage médiatique. Des explications claires réduisent la capture par le battage médiatique, les relations publiques en laboratoire et le théâtre d'éthique vague.
Attention à
- Traiter le risque existentiel comme de la science-fiction alors que les capacités s’accroissent.
- Confondre sécurité des produits de surface et alignement sous haute autonomie.
- Laisser le public non anglophone et non expert avec uniquement des sources de mauvaise qualité.
Prochaines étapes
- Séparez les dommages causés aux produits, leur mauvaise utilisation et les risques de perte de contrôle/désalignement.
- Demandez quelles preuves pourraient changer votre point de vue sur les délais et la gravité.
- Préférez les sources primaires et les évaluations concrètes aux allégations marketing.
- Identifiez une voie d’action : carrière, politique, financement ou compétences – et pas seulement la sensibilisation.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the NIST AI Risk Management Framework quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu'est-ce que le cadre de gestion des risques liés à l'IA du NIST ?
NIST’s AI Risk Management Framework (AI RMF 1.0) is a voluntary, cross-sector framework for managing risks to individuals, organizations and society across AI design, development, deployment and use.
Quelles sont les quatre fonctions principales du NIST AI RMF ?
Le cadre est construit autour de Gouverner, Cartographier, Mesurer et Gérer, Gouverner étant une fonction transversale alimentant les autres.
La conformité au NIST AI RMF est-elle légalement requise ?
Le RMF AI est explicitement volontaire et indépendant du secteur, offrant des orientations plutôt que des mandats exécutoires.
Quelle fonction est décrite comme transversale et alimentant les trois autres ?
Gouverner établit la culture, les politiques et les structures de responsabilité qui sous-tendent la cartographie, la mesure et la gestion.
Pourquoi le RMF considère-t-il la fiabilité comme un ensemble de compromis ?
Les gains dans une caractéristique, comme la précision, peuvent se faire au détriment d’une autre, comme la confidentialité ou l’équité, et doivent donc être équilibrés.
Qu'est-ce que le NIST a ajouté au cadre en 2024 pour prendre en charge les grands modèles de langage ?
Le profil 2024 Generative AI aborde les risques propres aux LLM, tels que la confabulation, les fuites de données et les contenus préjudiciables.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet