NastępnyNastępny poradnik
Audyty dotyczące odcieni płci i uprzedzeń w zakresie rozpoznawania twarzy
Społeczeństwo
PRZEWODNIK Społeczny
Audyty AI i weryfikacja stron trzecich
Audyt sztucznej inteligencji to ustrukturyzowana ocena systemu sztucznej inteligencji lub organizacji, która go obsługuje, pod kątem określonych kryteriów, takich jak dokładność, uczciwość, bezpieczeństwo, wymogi prawne lub standardy zarządzania, przeprowadzana wewnętrznie, przez niezależną stronę trzecią lub na podstawie mandatu organu regulacyjnego.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
Zapewnienie strony trzeciej ma znaczenie, ponieważ twierdzenia dotyczące systemów sztucznej inteligencji są trudne do zweryfikowania przez osoby z zewnątrz, a audyty stają się głównym sposobem sprawdzania ich przez organy regulacyjne, nabywców i społeczeństwo.
Głębokie nurkowanie
Audyty AI różnią się pod względem tego, kto je przeprowadza i co badają. Audyty wewnętrzne przeprowadza sama organizacja, najlepiej przez zespół niezależny od konstruktorów; W ramach Raji i współpracowników na rok 2020 zaproponowano kompleksowy proces audytu wewnętrznego na każdym etapie rozwoju systemu. Audyty zewnętrzne pochodzą od osób z zewnątrz. Niektóre współpracują i mają dostęp do danych i kodu; inni mają charakter kontradyktoryjny, jak dziennikarze lub badacze testujący system za pośrednictwem jego publicznego interfejsu. Audyty regulacyjne są wymagane lub przeprowadzane na mocy prawa. Metody można podzielić na trzy szerokie grupy. Audyty zarządzania lub procesów sprawdzają zasady, dokumentację, role i zarządzanie ryzykiem. Audyty techniczne testują model: wydajność w podgrupach, solidność, bezpieczeństwo i zachowanie w przypadkach brzegowych, czasami z uwzględnieniem czerwonego zespołu. Audyty wyników przyglądają się efektom w świecie rzeczywistym, na przykład porównując decyzje w różnych grupach lub wykorzystując konta marionetek do sprawdzania systemu rekomendacji. Ocena zgodności jest powiązanym pojęciem prawnym. Zgodnie z unijną ustawą o sztucznej inteligencji dostawcy systemów wysokiego ryzyka muszą wykazać zgodność przed wprowadzeniem ich na rynek. W przypadku większości samodzielnych zastosowań wysokiego ryzyka jest to procedura kontroli wewnętrznej, natomiast w przypadku niektórych systemów biometrycznych i sztucznej inteligencji w produktach objętych już unijnymi przepisami bezpieczeństwa może być zaangażowana jednostka notyfikowana. Lokalne prawo Nowego Jorku nr 144 wymaga niezależnych audytów stronniczości w przypadku narzędzi do zautomatyzowanego podejmowania decyzji o zatrudnieniu, a unijna ustawa o usługach cyfrowych wymaga niezależnych audytów bardzo dużych platform internetowych. Niezależność to trwała słabość. Audytorzy są zwykle opłacani przez audytowaną firmę, mogą mieć ograniczony dostęp i często pracują bez ustalonych standardów, co uznaje się za pozytywne. Krytycy ostrzegają przed praniem audytu, w ramach którego wąski audyt jest przedstawiany jako czysty rachunek zdrowia. Powszechnym błędnym przekonaniem jest to, że audyt ogólnie potwierdza system jako bezpieczny i uczciwy; odnosi się jedynie do badanych kryteriów, zakresu i okresu.
Implementacja w świecie rzeczywistym
Pracodawca w Nowym Jorku korzystający z automatycznego narzędzia do sprawdzania CV zleca niezależny audyt stronniczości, w ramach którego raportuje współczynniki wpływu współczynnika selekcji według płci, rasy lub kategorii pochodzenia etnicznego, zgodnie z wymogami lokalnego prawa nr 144.
Badacze pytają komercyjne usługi analizy twarzy o zrównoważony zestaw twarzy i publikują współczynniki błędów według rodzaju skóry i płci. Jest to audyt zewnętrzny przeprowadzony bez współpracy dostawców, taki jak badanie Gender Shades z 2018 r.
Firma produkująca oprogramowanie stara się o certyfikację swojego systemu zarządzania sztuczną inteligencją zgodnie z normą ISO/IEC 42001 od akredytowanej jednostki certyfikującej, aby klienci korporacyjni mogli zobaczyć, że jej mechanizmy zarządzania zostały sprawdzone.
Bardzo duża platforma internetowa w UE poddawana jest corocznemu niezależnemu audytowi zarządzania ryzykiem, w tym systemów rekomendacyjnych, zgodnie z aktem prawnym o usługach cyfrowych.
Przyszłość audytów sztucznej inteligencji i zapewnienia stron trzecich
Tworzy się branża zapewniająca sztuczną inteligencję, obejmująca firmy księgowe, specjalistyczne start-upy, laboratoria testowe i jednostki certyfikujące. Prace nad normami, takimi jak ISO/IEC 42001 dla systemów zarządzania i powiązane normy dla organów je certyfikujących, mają na celu zwiększenie porównywalności audytów. Rządy, w tym Wielka Brytania, opublikowały plany zwiększenia pewności rynku dotyczącego sztucznej inteligencji. Kluczowymi nierozwiązanymi kwestiami są akredytacja audytorów, dostęp do modeli wewnętrznych dla badaczy zewnętrznych oraz to, kto płaci bez powodowania konfliktów interesów. Audyty modeli ogólnego przeznaczenia są szczególnie niedojrzałe, ponieważ ich zastosowania mają charakter otwarty. W najbliższej przyszłości należy się spodziewać stopniowej profesjonalizacji, a nie jednej uzgodnionej metody.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Ryzyko i bezpieczeństwo. Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
- Jaśniejsze decyzje. Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
- Przebijanie się przez szum. Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Uważaj na
- Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
- Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
- Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Kolejne kroki
- Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
- Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
- Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
- Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the AI Audits and Third-Party Assurance quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym są audyty AI i kontrola stron trzecich?
Audyt sztucznej inteligencji to ustrukturyzowana ocena systemu sztucznej inteligencji lub organizacji, która go obsługuje, pod kątem określonych kryteriów, takich jak dokładność, uczciwość, bezpieczeństwo, wymogi prawne lub standardy zarządzania, przeprowadzana wewnętrznie, przez niezależną stronę trzecią lub na podstawie mandatu organu regulacyjnego. Zapewnienie strony trzeciej ma znaczenie, ponieważ twierdzenia dotyczące systemów sztucznej inteligencji są trudne do zweryfikowania przez osoby z zewnątrz, a audyty stają się głównym sposobem sprawdzania ich przez organy regulacyjne, nabywców i społeczeństwo.
Który opisuje kontradyktoryjny audyt zewnętrzny?
Kontrowersyjne audyty zewnętrzne przeprowadzane są przez osoby z zewnątrz, takie jak dziennikarze lub badacze, badające system bez współpracy lub uprzywilejowanego dostępu.
Co głównie bada audyt ładu korporacyjnego lub procesu?
Audyty procesów sprawdzają, w jaki sposób organizacja zarządza sztuczną inteligencją, zamiast bezpośrednio testować model.
Czego wymaga ustawa nr 144 prawa lokalnego stanu Nowy Jork w przypadku narzędzi do zautomatyzowanego podejmowania decyzji o zatrudnieniu?
Lokalne prawo 144 wymaga niezależnych audytów stronniczości, w tym wskaźników wpływu według kategorii demograficznych.
W jaki sposób obliczany jest współczynnik wpływu stosowany w audytach stronniczości w Nowym Jorku?
Współczynnik wpływu porównuje współczynnik wyboru każdej kategorii z najczęściej wybieraną kategorią.
Jak zgodnie z unijną ustawą o sztucznej inteligencji poddawana jest ocenie zgodności większość samodzielnych systemów wysokiego ryzyka?
Większość samodzielnych zastosowań wysokiego ryzyka podlega kontroli wewnętrznej, natomiast w przypadku niektórych systemów biometrycznych i produktów objętych regulacjami może uczestniczyć jednostka notyfikowana.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat