RODO i zautomatyzowane podejmowanie decyzji
Ogólne rozporządzenie UE o ochronie danych przyznaje ludziom prawa, gdy komputery automatycznie podejmują na ich temat ważne decyzje.
Przegląd
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Głębokie nurkowanie
Obowiązujące od maja 2018 r. RODO jest sztandarowym unijnym prawem dotyczącym prywatności. Najbardziej istotnym przepisem dotyczącym sztucznej inteligencji jest art. 22, który stanowi, że ludzie mają prawo nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub podobnie istotne, takie jak automatyczna odmowa kredytu lub automatyczna odmowa zatrudnienia. Są wyjątki: decyzja może zostać dopuszczona, jeżeli jest to konieczne ze względu na umowę, dozwolone przez prawo lub na podstawie wyraźnej zgody. Nawet wtedy organizacja musi zapewnić zabezpieczenia, w tym prawo do interwencji człowieka, do wyrażenia swojego punktu widzenia i do zakwestionowania decyzji. Artykuł 22 ma zastosowanie w przypadku, gdy decyzja jest wyłącznie zautomatyzowana i znacząca, niezależnie od tego, czy w grę wchodziła sztuczna inteligencja.
Wgląd techniczny
Artykuł 22 opiera się na dwóch progach: decyzja musi być wyłącznie zautomatyzowana (bez znaczącego zaangażowania człowieka) i mieć skutki prawne lub podobnie istotne. Podbicie wyniku algorytmu przez człowieka nie liczy się jako znacząca recenzja. W połączeniu z art. 13–15 administratorzy muszą przekazywać istotne informacje na temat stosowanej logiki. To popycha firmy w stronę dających się wyjaśnić modeli i dzienników audytu, ponieważ muszą one być w stanie opisać, w jaki sposób dane wejściowe przekładają się na decyzję.
Wpływ strategiczny
Ryzyko i bezpieczeństwo
Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
Jaśniejsze decyzje
Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
Przebijanie się przez szum
Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Przyszłość RODO i zautomatyzowanego podejmowania decyzji
Egzekwowanie RODO jest coraz intensywniejsze i obecnie pokrywa się z unijną ustawą o sztucznej inteligencji, która dodaje obowiązki powiązane z ryzykiem w przypadku systemów wysokiego ryzyka, takich jak punktacja kredytowa i zatrudnianie. Spodziewaj się dalszych wskazówek dotyczących tego, co liczy się jako decyzja wyłącznie zautomatyzowana, dokładniejszej kontroli profilowania i wysokich kar (do 4% światowego obrotu). Sądy, w tym Trybunał Sprawiedliwości UE w sprawie dotyczącej punktacji kredytowej SCHUFA, aktywnie wyjaśniają, kiedy samo wygenerowanie wyniku powoduje ochronę na mocy art. 22.
Implementacja w świecie rzeczywistym
Bank automatycznie odrzuca wniosek o kartę kredytową, korzystając z algorytmu scoringowego, a następnie musi zapewnić wnioskodawcy możliwość zwrócenia się o weryfikację manualną.
Pożyczkodawca internetowy musi poinformować odrzuconego pożyczkobiorcę o głównych czynnikach stojących za automatyczną odmową w ramach prawa do znaczących informacji na temat logiki.
Platforma gig-economy, która automatycznie dezaktywuje kierowców na podstawie ocen, stoi w obliczu wyzwań wynikających z art. 22 w zakresie wyłącznie automatycznych zwolnień.
Aby zachować zgodność z art. 22, osoba rekrutująca korzystająca z oprogramowania do sprawdzania CV opartego na sztucznej inteligencji musi utworzyć punkt kontrolny z udziałem człowieka przed ostateczną odmową zatrudnienia.
Zagrożenia i poręcze
Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Plan wdrożenia
Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Podejmowanie decyzji przez sztuczną inteligencję
Często zadawane pytania
What is GDPR and Automated Decision-Making?
Ogólne rozporządzenie UE o ochronie danych przyznaje ludziom prawa, gdy komputery automatycznie podejmują na ich temat ważne decyzje. Jest to jedna z najbardziej wpływowych na świecie zasad kształtujących sposób wykorzystania systemów sztucznej inteligencji wobec Europejczyków.
Który artykuł RODO szczegółowo odnosi się do decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu?
Artykuł 22 przyznaje osobom fizycznym prawo do tego, aby nie podlegać decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, które mają skutki prawne lub podobnie istotne.
Aby art. 22 miał zastosowanie, zautomatyzowana decyzja musi co do zasady mieć skutek?
Ochrona uruchamia się, gdy decyzja wywołuje skutki prawne lub w podobny sposób znacząco wpływa na osobę, np. odmowa kredytu lub odmowa pracy.
Jeżeli w drodze wyjątku dozwolona jest wyłącznie zautomatyzowana decyzja, jakie zabezpieczenie musi zazwyczaj zapewnić organizacja?
Gwarancje obejmują prawo do interwencji człowieka, do wyrażenia własnego punktu widzenia i do zakwestionowania decyzji.
Co oznacza, że człowiek zwyczajnie pieczętuje wynik algorytmu dla artykułu 22?
Znaczące zaangażowanie ludzi wymaga prawdziwego przeglądu i władzy, którą można uchylić; symboliczne podpisanie decyzji utrzymuje decyzję w zakresie art. 22.