NastępnyNastępny poradnik
Zarządzanie ryzykiem modeli (SR 11-7) i sztuczna inteligencja
Społeczeństwo
PRZEWODNIK Społeczny
Zarządzanie sztuczną inteligencją ISO/IEC 42001
ISO/IEC 42001 to pierwsza międzynarodowa norma dotycząca systemu zarządzania sztuczną inteligencją (AIMS), zapewniająca organizacjom certyfikowany sposób odpowiedzialnego zarządzania sztuczną inteligencją.
Na tej stronie2 minuty czytania
Przegląd
Ma to znaczenie, ponieważ podobnie jak ISO 27001 w zakresie bezpieczeństwa pozwala firmie udowodnić swoje praktyki sztucznej inteligencji klientom, organom regulacyjnym i partnerom w drodze niezależnego audytu.
Głębokie nurkowanie
Opublikowana w grudniu 2023 r. norma ISO/IEC 42001 określa wymagania dotyczące ustanawiania, wdrażania, utrzymywania i ciągłego doskonalenia systemu zarządzania sztuczną inteligencją w organizacji. Jest zgodny ze znaną, wysokopoziomową strukturą ISO zbudowaną w oparciu o cykl „Planuj – wykonaj – sprawdź – działaj” i został zaprojektowany tak, aby integrować się z innymi standardami zarządzania, takimi jak ISO 9001 (jakość) i ISO 27001 (bezpieczeństwo informacji). Podstawowe wymagania obejmują określenie kontekstu organizacji, zaangażowanie przywództwa, politykę sztucznej inteligencji, oceny ryzyka i wpływu, kontrole operacyjne, monitorowanie wyników, audyty wewnętrzne i przegląd zarządzania. Kluczowym narzędziem jest ocena wpływu sztucznej inteligencji, która uwzględnia wpływ na jednostki i społeczeństwo, a nie tylko na organizację. W załączniku A wymieniono kontrole referencyjne obejmujące jakość danych, przejrzystość, rozliczalność i cykl życia systemu sztucznej inteligencji. Co najważniejsze, jest certyfikowany: akredytowana jednostka może audytować i certyfikować zgodność.
Wpływ strategiczny
Ryzyko i bezpieczeństwo
Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
Jaśniejsze decyzje
Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
Przebijanie się przez szum
Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Przyszłość zarządzania sztuczną inteligencją ISO/IEC 42001
W miarę zaostrzania się przepisów certyfikacja ISO/IEC 42001 może stać się sygnałem rynkowym godnej zaufania sztucznej inteligencji, podobnie jak ISO 27001 stało się podstawą bezpieczeństwa. Pojawiają się przejścia dla unijnej ustawy o sztucznej inteligencji i NIST AI RMF, więc certyfikacja może pomóc w wykazaniu gotowości regulacyjnej i usprawnieniu zamówień. Spodziewaj się standardów wspierających w zakresie zarządzania ryzykiem AI (ISO/IEC 23894), terminologii i testowania, które wypełnią ekosystem, a dostawcy rozwiązań chmurowych i sztucznej inteligencji będą zabiegać o certyfikację, aby uspokoić klientów korporacyjnych.
Implementacja w świecie rzeczywistym
Dostawca oprogramowania dla przedsiębiorstw uzyskuje certyfikat ISO/IEC 42001, aby zdobywać kontrakty z klientami niechętnymi ryzyku, którzy wymagają dowodu odpowiedzialnego zarządzania sztuczną inteligencją.
Firma przeprowadza ocenę wpływu sztucznej inteligencji na nowy silnik rekomendacji, oceniając wpływ na użytkowników i społeczeństwo przed uruchomieniem.
Firma posiadająca już certyfikat ISO 27001 opiera się na AIMS, ponownie wykorzystując swoje istniejące procesy audytu i kontroli dokumentów w ramach wspólnej struktury Annex SL.
Organizacja stosuje kontrole określone w załączniku A dotyczące jakości i przejrzystości danych, a następnie przechodzi audyt wewnętrzny przed akredytowanym audytem certyfikującym.
Zagrożenia i poręcze
Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Plan wdrożenia
Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ISO/IEC 42001 AI Management quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Często zadawane pytania
Co to jest zarządzanie sztuczną inteligencją ISO/IEC 42001?
ISO/IEC 42001 to pierwsza międzynarodowa norma dotycząca systemu zarządzania sztuczną inteligencją (AIMS), zapewniająca organizacjom certyfikowany sposób odpowiedzialnego zarządzania sztuczną inteligencją. Ma to znaczenie, ponieważ podobnie jak ISO 27001 w zakresie bezpieczeństwa pozwala firmie udowodnić swoje praktyki sztucznej inteligencji klientom, organom regulacyjnym i partnerom w drodze niezależnego audytu.
Co ustanawia norma ISO/IEC 42001?
ISO/IEC 42001 określa wymagania dotyczące systemu zarządzania sztuczną inteligencją, ustrukturyzowanego, podlegającego audytowi sposobu zarządzania sztuczną inteligencją w organizacji.
Jaki cykl zarządzania leży u podstaw ISO/IEC 42001?
Podobnie jak inne standardy zarządzania ISO, opiera się na cyklu ciągłego doskonalenia: Zaplanuj, Wykonaj, Sprawdź, Działaj.
Which statement correctly describes certification under ISO/IEC 42001 compared with the NIST AI RMF?
NIST describes its AI RMF as voluntary. ISO states its standards are voluntary and says certification to ISO/IEC 42001 is voluntary; ISO itself does not certify organizations. A separate law or contract can impose additional requirements.
Jakie jest charakterystyczne narzędzie wymagane przez normę ISO/IEC 42001?
Standard wymaga ocen wpływu sztucznej inteligencji, które uwzględniają konsekwencje dla jednostek i społeczeństwa, a nie tylko organizacji.
Dlaczego normę ISO/IEC 42001 można łatwo połączyć z normą ISO 27001 lub ISO 9001?
Wspólna struktura Annex SL pozwala organizacjom zintegrować AIMS z istniejącymi certyfikowanymi systemami zarządzania, ponownie wykorzystując procesy.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat