Ustawa UE o sztucznej inteligencji
Ustawa UE o sztucznej inteligencji to pierwsze na świecie kompleksowe prawo regulujące sztuczną inteligencję, dzielące systemy sztucznej inteligencji na poziomy ryzyka na podstawie zasad, które zwiększają się w miarę wzrostu zagrożenia.
Przegląd
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
Głębokie nurkowanie
Przyjęty w 2024 r. unijny akt dotyczący sztucznej inteligencji opiera się na podejściu opartym na ryzyku. Całkowicie zakazuje kilku praktyk „niedopuszczalnego ryzyka”, takich jak rządowa punktacja społeczna, manipulacyjne techniki podprogowe i nieukierunkowane skrobanie twarzy w celu tworzenia baz danych dotyczących rozpoznawania. Systemy „wysokiego ryzyka”, takie jak sztuczna inteligencja wykorzystywana w procesie rekrutacji, punktacji kredytowej, urządzeniach medycznych lub infrastrukturze krytycznej, podlegają surowym wymogom: zarządzaniu ryzykiem, wysokiej jakości danych, nadzorze ludzkim, logowaniu i ocenie zgodności przed wejściem na rynek. Narzędzia „o ograniczonym ryzyku”, takie jak chatboty, muszą po prostu ujawniać, że użytkownicy wchodzą w interakcję z sztuczną inteligencją. Modele sztucznej inteligencji ogólnego przeznaczenia, w tym modele wielojęzyczne, wiążą się z własnymi obowiązkami w zakresie przejrzystości i dokumentacji, przy czym należy zwrócić szczególną uwagę na najbardziej przydatne modele „ryzyka systemowego”. Kary sięgają nawet 35 milionów euro lub 7 procent światowego obrotu.
Wgląd techniczny
Ustawa reguluje przypadek użycia, a nie algorytm. W zależności od kontekstu ten sam model może wiązać się z niskim ryzykiem w przypadku jednego produktu i wysokim ryzykiem w innym. Dostawcy wysokiego ryzyka muszą prowadzić dokumentację techniczną, prowadzić automatyczne dzienniki zdarzeń w celu identyfikowalności, zapewniać, że zbiory danych są istotne i reprezentatywne, aby ograniczyć stronniczość, a także zapewniać znaczący nadzór ludzki. W przypadku modeli ogólnego przeznaczenia dostawcy publikują podsumowania danych szkoleniowych i powyżej progu obliczeniowego (10^25 FLOP) przeprowadzają oceny modeli i testy kontradyktoryjne.
Wpływ strategiczny
Ryzyko i bezpieczeństwo
Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
Jaśniejsze decyzje
Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
Przebijanie się przez szum
Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Przyszłość unijnej ustawy o sztucznej inteligencji
Ustawa wchodzi w życie przez kilka lat: zakazy niedozwolonych praktyk zostały wprowadzone po raz pierwszy na początku 2025 r., zastosowano zasady modelu ogólnego przeznaczenia, a większość obowiązków wysokiego ryzyka wygasa do lat 2026–2027. Można się spodziewać, że CEN-CENELEC zharmonizowane standardy techniczne zdefiniują dokładnie sposób pomiaru zgodności, a także piaskownice regulacyjne dla start-upów. Podobnie jak wcześniej RODO, ustawa prawdopodobnie będzie kształtować przepisy dotyczące sztucznej inteligencji na całym świecie, ponieważ inne jurysdykcje zapożyczą z niej strukturę poziomów ryzyka, mimo że krytycy debatują, czy spowalnia ona europejskie innowacje.
Implementacja w świecie rzeczywistym
Bank wdrażający narzędzie do oceny zdolności kredytowej opartej na sztucznej inteligencji musi udokumentować swoje dane szkoleniowe, przetestować pod kątem stronniczości i umożliwić ludziom przeglądanie i pomijanie automatycznych odrzuceń kredytów.
Szpital korzystający ze sztucznej inteligencji do segregacji skanów medycznych musi przejść ocenę zgodności i zarejestrować system wysokiego ryzyka w bazie danych UE przed zastosowaniem klinicznym.
Chatbot obsługi klienta musi wyraźnie poinformować użytkowników, że rozmawiają z sztuczną inteligencją, a nie z agentem ludzkim, zgodnie z zasadą przejrzystości ograniczonego ryzyka.
Twórca dużego modelu językowego przekraczającego próg obliczeniowy musi przeprowadzić kontradyktoryjne testy zespołu czerwonego i zgłosić poważne incydenty do Biura UE ds. Sztucznej Inteligencji.
Zagrożenia i poręcze
Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Plan wdrożenia
Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Zarządzanie sztuczną inteligencją ISO/IEC 42001
Często zadawane pytania
What is EU AI Act?
Ustawa UE o sztucznej inteligencji to pierwsze na świecie kompleksowe prawo regulujące sztuczną inteligencję, dzielące systemy sztucznej inteligencji na poziomy ryzyka na podstawie zasad, które zwiększają się w miarę wzrostu zagrożenia. Ma to znaczenie, ponieważ wyznacza de facto światowy standard, którego musi przestrzegać każda firma sprzedająca sztuczną inteligencję do UE.
Z jakiej zasady organizacyjnej korzysta unijny akt dotyczący sztucznej inteligencji przy ustalaniu swoich przepisów?
Ustawa dzieli sztuczną inteligencję na poziomy ryzyka (niedopuszczalne, wysokie, ograniczone, minimalne) w oparciu o przypadek użycia i potencjalne szkody, a nie wielkość firmy czy typ algorytmu.
Która z nich jest praktyką stanowiącą „niedopuszczalne ryzyko” całkowicie zakazaną przez ustawę?
Jedną z zabronionych praktyk jest rządowa punktacja społeczna, podobnie jak manipulacyjne techniki podprogowe i nieukierunkowane skanowanie twarzy.
Jaki jest główny obowiązek systemu o „ograniczonym ryzyku”, takiego jak chatbot?
Systemy o ograniczonym ryzyku spełniają głównie obowiązki w zakresie przejrzystości, takie jak informowanie użytkowników, że mają do czynienia z sztuczną inteligencją, a nie z człowiekiem.
Jaka jest maksymalna kara finansowa na mocy unijnej ustawy o sztucznej inteligencji?
Najsurowsze kary sięgają 35 milionów euro lub 7 procent światowego rocznego obrotu, w zależności od tego, która wartość jest wyższa, za najpoważniejsze naruszenia.
Jak ustawa traktuje ten sam model sztucznej inteligencji zastosowany w dwóch różnych produktach?
Ponieważ ustawa reguluje przypadki użycia, jeden model może wiązać się z wysokim ryzykiem w narzędziu do zatrudniania, ale niskim ryzykiem w innym zastosowaniu.