NIST AI Risk Management Framework
Das NIST AI Risk Management Framework (AI RMF) ist ein freiwilliges Leitfaden der US-Regierung zum Aufbau vertrauenswürdiger KI durch die Identifizierung und Verwaltung ihrer Risiken über den gesamten Lebenszyklus hinweg.
Übersicht
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Tiefer Einblick
Der AI RMF 1.0 wurde im Januar 2023 vom US-amerikanischen National Institute of Standards and Technology veröffentlicht und ist freiwillig und branchenunabhängig. Es ist um vier Kernfunktionen herum organisiert: Steuern (eine Kultur und Richtlinien für KI-Risiken aufbauen), kartieren (den Kontext verstehen und Risiken identifizieren), messen (Risiken anhand von Kennzahlen analysieren und verfolgen) und verwalten (diese Risiken priorisieren und darauf reagieren). Das Framework definiert Merkmale vertrauenswürdiger KI: gültig und zuverlässig, sicher und belastbar, rechenschaftspflichtig und transparent, erklärbar und interpretierbar, datenschutzfreundlich und fair, wobei schädliche Voreingenommenheit gemanagt wird. NIST veröffentlicht außerdem ein begleitendes Playbook mit konkreten Handlungsvorschlägen und fügte 2024 ein generatives KI-Profil hinzu, das sich mit den spezifischen Risiken großer Sprachmodelle wie Konfabulation, Datenlecks und schädlichen Inhalten befasst.
Technischer Einblick
Im Gegensatz zu einer Checkliste behandelt das RMF Vertrauenswürdigkeit als eine Reihe von Kompromissen, die abgewogen werden müssen, da die Verbesserung einer Eigenschaft (z. B. Genauigkeit) eine andere (z. B. Privatsphäre oder Fairness) beeinträchtigen kann. Die Regierungsfunktion ist bereichsübergreifend und versorgt die anderen drei. Measure legt Wert darauf, sowohl quantitative Metriken als auch qualitative Methoden zu verwenden, einschließlich Red-Teaming und menschlicher Bewertung, da sich viele KI-Schäden einer rein numerischen Erfassung entziehen. Das Rahmenwerk legt Ergebnisse fest, nicht spezifische Werkzeuge.
Strategische Auswirkungen
Risiko und Sicherheit
Sowohl katastrophale als auch alltägliche Schäden durch KI hängen davon ab, wer die Risiken versteht und wer handeln kann.
Klarere Entscheidungen
Die öffentliche und berufliche Bildung bestimmt, ob eine starke Sicherheitspolitik politisch möglich ist.
Sich durch den Hype schneiden
Klare Erklärungen reduzieren die Vereinnahmung durch Hype, Labor-PR und vages Ethik-Theater.
Die Zukunft des NIST AI Risk Management Framework
Erwarten Sie, dass das RMF zu einer gemeinsamen Referenzbasis wird, die verbindliche Regelungen wie das EU-KI-Gesetz und neu entstehende Gesetze der US-Bundesstaaten abbildet und so die Einhaltung mehrerer Gerichtsbarkeiten erleichtert. NIST veröffentlicht weiterhin Profile für bestimmte Kontexte und Technologien, wobei der Schwerpunkt auf generativer KI liegt. Die Leitlinien für das Beschaffungswesen und die Behörden des Bundes verweisen zunehmend auf das RMF, und die Übergriffe auf Standards wie ISO/IEC 42001 nehmen zu, wodurch es zu einem Bindeglied für die globale KI-Governance wird, auch wenn es weiterhin freiwillig ist.
Reale Umsetzung
Ein Technologieunternehmen kartiert den Kontext einer neuen Einstellungs-KI, listet betroffene Gruppen und potenzielle Schäden auf, bevor Code versendet wird, und erfüllt so die Kartenfunktion.
Eine Bank richtet ein KI-Governance-Komitee ein und verfasst Risikorichtlinien, um die Governance-Funktion in allen ihren Modellen zu erfüllen.
Ein Team verwendet Red-Teaming- und Bias-Metriken, um die Fehlermodi eines Chatbots im Rahmen der Messfunktion zu quantifizieren.
Ein Krankenversicherer folgt dem Generative AI Profile, um Konfabulations- und Datenleckrisiken in einem kundenorientierten LLM zu begegnen.
Risiken und Leitplanken
Das existentielle Risiko wird als Science-Fiction behandelt, während sich die Fähigkeiten verstärken.
Verwechslung von Oberflächenproduktsicherheit mit Ausrichtung unter hoher Autonomie.
Nicht-englischsprachigen und nicht fachkundigen Zielgruppen stehen nur Quellen von geringer Qualität zur Verfügung.
Implementierungs-Roadmap
Separate Risiken für Produktschäden, Missbrauch und Kontrollverlust/Fehlausrichtung.
Fragen Sie, welche Beweise Ihre Sicht auf Zeitpläne und Schweregrad ändern würden.
Bevorzugen Sie Primärquellen und konkrete Bewertungen gegenüber Marketingaussagen.
Identifizieren Sie einen Aktionspfad: Karriere, Politik, Finanzierung oder Fähigkeiten – nicht nur Bewusstsein.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nächster Leitfaden
KI-Produktmanagement
Häufig gestellte Fragen
What is NIST AI Risk Management Framework?
Das NIST AI Risk Management Framework (AI RMF) ist ein freiwilliges Leitfaden der US-Regierung zum Aufbau vertrauenswürdiger KI durch die Identifizierung und Verwaltung ihrer Risiken über den gesamten Lebenszyklus hinweg. Es ist wichtig, weil es Organisationen eine praktische, flexible Struktur zur Operationalisierung verantwortungsvoller KI bietet, ohne dass es sich dabei um ein verbindliches Gesetz handelt.
Was sind die vier Kernfunktionen des NIST AI RMF?
Das Framework basiert auf „Govern“, „Mapping“, „Measure“ und „Manage“, wobei „Govern“ eine übergreifende Funktion ist, die die anderen Funktionen versorgt.
Ist die Einhaltung des NIST AI RMF gesetzlich vorgeschrieben?
Das AI RMF ist ausdrücklich freiwillig und sektorunabhängig und bietet eher Leitlinien als durchsetzbare Mandate.
Welche Funktion wird als Querschneiden und Einspeisen in die anderen drei beschrieben?
Govern legt die Kultur, Richtlinien und Verantwortlichkeitsstrukturen fest, die dem Planen, Messen und Verwalten zugrunde liegen.
Warum betrachtet die RMF Vertrauenswürdigkeit als eine Reihe von Kompromissen?
Der Gewinn einer Eigenschaft, wie etwa der Genauigkeit, kann auf Kosten einer anderen Eigenschaft, etwa der Privatsphäre oder der Fairness, gehen und muss daher ausgewogen sein.
Was hat NIST im Jahr 2024 zum Framework hinzugefügt, um große Sprachmodelle zu berücksichtigen?
Das Generative AI Profile 2024 befasst sich mit den für LLMs spezifischen Risiken wie Konfabulation, Datenlecks und schädlichen Inhalten.