Ramy zarządzania ryzykiem NIST AI
Ramy zarządzania ryzykiem AI NIST (AI RMF) to dobrowolny podręcznik rządu USA służący do budowania godnej zaufania sztucznej inteligencji poprzez identyfikację ryzyka i zarządzanie nim w całym cyklu życia.
Przegląd
It matters because it gives organizations a practical, flexible structure to operationalize responsible AI without being a binding law.
Głębokie nurkowanie
Wydany przez amerykański Narodowy Instytut Standardów i Technologii w styczniu 2023 r. AI RMF 1.0 jest dobrowolny i niezależny od sektora. Jest on zorganizowany wokół czterech podstawowych funkcji: zarządzaj (buduj kulturę i zasady dotyczące ryzyka związanego ze sztuczną inteligencją), mapuj (zrozum kontekst i identyfikuj ryzyko), mierz (analizuj i śledź ryzyko za pomocą wskaźników) oraz zarządzaj (nadaj priorytety tym ryzykom i działaj w oparciu o nie). Ramy definiują cechy godnej zaufania sztucznej inteligencji: ważna i niezawodna, bezpieczna, bezpieczna i odporna, odpowiedzialna i przejrzysta, wyjaśnialna i możliwa do interpretacji, zapewniająca większą prywatność oraz uczciwa, pozbawiona szkodliwych uprzedzeń. NIST publikuje także towarzyszący Poradnik zawierający konkretne sugerowane działania, a w 2024 r. dodał profil generatywnej sztucznej inteligencji dotyczący zagrożeń charakterystycznych dla dużych modeli językowych, takich jak konfabulacja, wyciek danych i szkodliwe treści.
Wgląd techniczny
W przeciwieństwie do listy kontrolnej, RMF traktuje wiarygodność jako zbiór kompromisów, które należy wyważyć, ponieważ poprawa jednej właściwości (powiedzmy dokładności) może pogorszyć inną (powiedzmy prywatność lub uczciwość). Funkcja Zarządzaj ma charakter przekrojowy i zasila pozostałe trzy. W Measure kładzie się nacisk na stosowanie zarówno wskaźników ilościowych, jak i metod jakościowych, w tym tworzenia zespołów red-team i oceny przez ludzi, ponieważ wiele szkód związanych ze sztuczną inteligencją opiera się wychwytywaniu czysto numerycznemu. Ramy określają rezultaty, a nie konkretne narzędzia.
Wpływ strategiczny
Ryzyko i bezpieczeństwo
Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
Jaśniejsze decyzje
Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
Przebijanie się przez szum
Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Przyszłość ram zarządzania ryzykiem AI NIST
Można się spodziewać, że RMF stanie się wspólnym punktem odniesienia, który będzie odwzorowywany na wiążące systemy, takie jak unijna ustawa o sztucznej inteligencji i powstające przepisy stanowe USA, ułatwiając przestrzeganie przepisów obejmujących wiele jurysdykcji. NIST w dalszym ciągu publikuje profile dla określonych kontekstów i technologii, skupiając się głównie na generatywnej sztucznej inteligencji. Wytyczne federalne dotyczące zamówień publicznych i agencji w coraz większym stopniu wskazują na RMF, a przejścia dla standardów takich jak ISO/IEC 42001 rosną, co czyni go tkanką łączną dla globalnego zarządzania sztuczną inteligencją, mimo że pozostaje to dobrowolne.
Implementacja w świecie rzeczywistym
Firma technologiczna mapuje kontekst nowej sztucznej inteligencji zatrudniającej, wymieniając grupy, których to dotyczy i potencjalne szkody, zanim wyślemy kod, spełniając tym samym funkcję mapy.
Bank ustanawia komitet ds. zarządzania sztuczną inteligencją i spisane zasady ryzyka, aby spełniać funkcję zarządzania we wszystkich swoich modelach.
Zespół wykorzystuje metryki red-teamingu i stronniczości, aby określić ilościowo tryby awarii chatbota w ramach funkcji Zmierz.
Ubezpieczyciel zdrowotny postępuje zgodnie z profilem generatywnej sztucznej inteligencji, aby zapobiec ryzyku konfabulacji i wycieku danych w LLM skierowanym do klienta.
Zagrożenia i poręcze
Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Plan wdrożenia
Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the NIST AI Risk Management Framework quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Zarządzanie produktami AI
Często zadawane pytania
What is NIST AI Risk Management Framework?
Ramy zarządzania ryzykiem AI NIST (AI RMF) to dobrowolny podręcznik rządu USA służący do budowania godnej zaufania sztucznej inteligencji poprzez identyfikację ryzyka i zarządzanie nim w całym cyklu życia. Ma to znaczenie, ponieważ zapewnia organizacjom praktyczną i elastyczną strukturę umożliwiającą operacjonalizację odpowiedzialnej sztucznej inteligencji, nie będąc jednocześnie wiążącym prawem.
Jakie są cztery podstawowe funkcje NIST AI RMF?
Struktura opiera się na zarządzaniu, mapowaniu, mierzeniu i zarządzaniu, przy czym zarządzanie jest funkcją przekrojową, zasilającą pozostałe.
Czy zgodność z NIST AI RMF jest prawnie wymagana?
AI RMF jest całkowicie dobrowolny i niezależny od sektora i oferuje wytyczne, a nie wykonalne mandaty.
Którą funkcję opisano jako przecinającą i łączącą pozostałe trzy?
Zarządzaj ustanawia kulturę, zasady i struktury odpowiedzialności, które stanowią podstawę tworzenia map, pomiarów i zarządzania.
Dlaczego RMF traktuje wiarygodność jako zestaw kompromisów?
Zyski w zakresie jednej cechy, takiej jak dokładność, mogą nastąpić kosztem innej, takiej jak prywatność lub uczciwość, dlatego muszą być zrównoważone.
Co NIST dodał do ram w 2024 r., aby zająć się dużymi modelami językowymi?
Profil generatywnej sztucznej inteligencji 2024 uwzględnia ryzyka charakterystyczne dla LLM, takie jak konfabulacja, wyciek danych i szkodliwe treści.