NastępnyNastępny poradnik
Chatboty AI, dzieci i przepisy dotyczące bezpieczeństwa w Internecie
Społeczeństwo
PRZEWODNIK Społeczny
Instytuty bezpieczeństwa AI na całym świecie
Instytuty bezpieczeństwa AI to organy rządowe, które testują i badają zaawansowane modele sztucznej inteligencji.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie3 minuty czytania
Przegląd
Koncentrują się na zagrożeniach, takich jak cyberataki, niewłaściwe użycie substancji chemicznych i biologicznych oraz utrata kontroli przez człowieka, często dokonując oceny modeli przed ich publicznym udostępnieniem. Mają one znaczenie, ponieważ zapewniają rządom niezależną wiedzę techniczną w zakresie pionierskiej sztucznej inteligencji, choć większość z nich opiera się na dobrowolnej współpracy przedsiębiorstw, a nie na uprawnieniach prawnych.
Głębokie nurkowanie
W Wielkiej Brytanii powołano Instytut Bezpieczeństwa AI w listopadzie 2023 r. w związku ze szczytem dotyczącym bezpieczeństwa sztucznej inteligencji w Bletchley Park. Wyrosła z grupy zadaniowej Frontier AI i stała się jednym z najlepiej finansowanych rządowych zespołów oceniających sztuczną inteligencję, zatrudniającym badaczy z wiodących laboratoriów. W lutym 2025 roku przemianowano go na AI Security Institute. Nowa nazwa odzwierciedlała węższe skupienie się na szkodach dla bezpieczeństwa narodowego, takich jak nadużycia w cyberprzestrzeni, zagrożenia chemiczne i biologiczne oraz przestępczość, a nie na szerszych kwestiach, takich jak uprzedzenia. Amerykański Instytut Bezpieczeństwa AI został utworzony w ramach NIST pod koniec 2023 r. na mocy dekretu prezydenta Bidena w sprawie sztucznej inteligencji. W czerwcu 2025 roku Departament Handlu zreorganizował go jako Centrum Standardów i Innowacji AI (CAISI). Mandat przesunął się w stronę dobrowolnych standardów, ocen istotnych dla bezpieczeństwa narodowego i oceny zagranicznych systemów sztucznej inteligencji, rezygnując jednocześnie z brandingu „bezpieczeństwa”. Japonia, Singapur, Kanada, Korea Południowa, Francja i inne kraje utworzyły podobne organy. Unijne Biuro ds. Sztucznej Inteligencji pełni pewne równoległe funkcje, ale pełni funkcję organu regulacyjnego. W listopadzie 2024 r. w San Francisco odbyło się pierwsze spotkanie Międzynarodowej Sieci Instytutów Bezpieczeństwa AI. Jej członkami założycielami były Australia, Kanada, UE, Francja, Japonia, Kenia, Korea Południowa, Singapur, Wielka Brytania i USA. Powszechnym błędnym przekonaniem jest to, że instytuty te mogą blokować publikacje modeli. Organy Wielkiej Brytanii i USA nie mają ogólnych ustawowych uprawnień do wymuszania dostępu lub zaprzestania rozmieszczania. Dostęp do nich wynika z dobrowolnych porozumień, a ich ustalenia kształtują politykę i decyzje firmy, nie będąc wiążącym. Inaczej jest w przypadku unijnego Urzędu ds. AI, który na mocy ustawy o sztucznej inteligencji może zwracać się o informacje do dostawców modeli sztucznej inteligencji ogólnego przeznaczenia obarczonych ryzykiem systemowym i egzekwować od nich obowiązki.
Implementacja w świecie rzeczywistym
Instytuty brytyjskie i amerykańskie wspólnie przetestowały ulepszony Claude 3.5 Sonnet i OpenAI o1 przed wdrożeniem i opublikowały podsumowania wyników pod koniec 2024 r.
Brytyjski instytut udostępnił Inspect, platformę open source, której badacze i inne rządy używają do tworzenia i przeprowadzania ocen sztucznej inteligencji.
W 2024 roku amerykański instytut podpisał umowy z OpenAI i Anthropic, które zapewniły mu dostęp do nowych, najważniejszych modeli przed i po publicznej premierze.
Instytuty z kilku krajów przeprowadziły wspólne ćwiczenia testowe w celu porównania metod, na przykład oceny zachowania agentów w różnych językach.
Przyszłość instytutów bezpieczeństwa AI na całym świecie
Rola instytutów wciąż się zmienia. Kilka z nich przeszło od szeroko zakrojonych badań nad bezpieczeństwem w kierunku bezpieczeństwa narodowego, standardów i konkurencyjności przemysłowej, a ich priorytety mogą ulegać ciągłym zmianom wraz z rządami. Kluczowe otwarte pytania dotyczą tego, czy którykolwiek z nich otrzyma uprawnienia ustawowe, w jaki sposób ich praca będzie powiązana z organami regulacyjnymi, takimi jak Biuro UE ds. AI, oraz czy współpraca międzynarodowa pogłębi się lub podzieli wzdłuż linii geopolitycznych. Ich długoterminowa wartość może zależeć od wspólnych, powtarzalnych metod oceny i wystarczających środków finansowych, aby dotrzymać kroku pionierskim laboratoriom.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Ryzyko i bezpieczeństwo. Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
- Jaśniejsze decyzje. Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
- Przebijanie się przez szum. Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Uważaj na
- Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
- Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
- Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Kolejne kroki
- Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
- Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
- Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
- Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the AI Safety Institutes Around the World quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym są Instytuty Bezpieczeństwa AI na całym świecie?
Instytuty bezpieczeństwa AI to organy rządowe, które testują i badają zaawansowane modele sztucznej inteligencji. Koncentrują się na zagrożeniach, takich jak cyberataki, niewłaściwe użycie substancji chemicznych i biologicznych oraz utrata kontroli przez człowieka, często dokonując oceny modeli przed ich publicznym udostępnieniem. Mają one znaczenie, ponieważ zapewniają rządom niezależną wiedzę techniczną w zakresie pionierskiej sztucznej inteligencji, choć większość z nich opiera się na dobrowolnej współpracy przedsiębiorstw, a nie na uprawnieniach prawnych.
Jak zmieniono nazwę brytyjskiego Instytutu Bezpieczeństwa AI w lutym 2025 r.?
Nowa nazwa, AI Security Institute, odzwierciedlała węższe skupienie się na zagrożeniach dla bezpieczeństwa narodowego, takich jak niewłaściwe użycie cybernetyczne, chemiczne i biologiczne oraz przestępczość.
W jaki organ w 2025 r. przekształcono amerykański Instytut Bezpieczeństwa AI?
Departament Handlu przekształcił go w CAISI, który koncentruje się na standardach, ocenach bezpieczeństwa narodowego i ocenie systemów zagranicznych.
Gdzie odbyło się pierwsze spotkanie Międzynarodowej Sieci Instytutów Bezpieczeństwa AI?
Pierwsze spotkanie odbyło się w San Francisco w listopadzie 2024 r.
Jaką władzę prawną mają zazwyczaj instytucje brytyjskie i amerykańskie w zakresie publikacji modeli?
Dostęp do nich wynika z dobrowolnych porozumień, a ich ustalenia mają charakter doradczy, a nie wiążący.
Co to jest Inspekcja?
Inspect organizuje ewaluacje w zbiory danych, rozwiązania i punkty, a także obsługuje testowanie agentów w trybie piaskownicy.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat