DSGVO und automatisierte Entscheidungsfindung
Die Datenschutz-Grundverordnung der EU gibt Menschen Rechte, wenn Computer automatisch wichtige Entscheidungen über sie treffen.
Übersicht
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Tiefer Einblick
Die seit Mai 2018 in Kraft getretene DSGVO ist das Flaggschiff-Datenschutzgesetz der EU. Die KI-relevanteste Bestimmung ist Artikel 22, der besagt, dass Menschen das Recht haben, nicht einer Entscheidung unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und rechtliche oder ähnlich bedeutsame Auswirkungen hat, wie etwa automatische Kreditverweigerungen oder automatisierte Einstellungsablehnungen. Es gibt Ausnahmen: Die Entscheidung kann zugelassen werden, wenn sie für einen Vertrag erforderlich, gesetzlich zulässig oder auf einer ausdrücklichen Einwilligung beruht. Selbst dann muss die Organisation Schutzmaßnahmen bieten, einschließlich des Rechts auf menschliches Eingreifen, die Möglichkeit, Ihren Standpunkt darzulegen und die Entscheidung anzufechten. Artikel 22 gilt immer dann, wenn die Entscheidung ausschließlich automatisiert und von Bedeutung ist, unabhängig davon, ob KI beteiligt war.
Technischer Einblick
Artikel 22 hängt von zwei Schwellenwerten ab: Die Entscheidung muss ausschließlich automatisiert erfolgen (keine nennenswerte menschliche Beteiligung) und rechtliche oder ähnlich erhebliche Auswirkungen haben. Wenn ein Mensch die Ausgabe eines Algorithmus absegnet, gilt dies nicht als aussagekräftige Bewertung. In Verbindung mit den Artikeln 13–15 müssen die Verantwortlichen aussagekräftige Informationen über die beteiligte Logik bereitstellen. Dies drängt Unternehmen zu erklärbaren Modellen und Prüfprotokollen, da sie in der Lage sein müssen, zu beschreiben, wie Eingaben zu einer Entscheidung führen.
Strategische Auswirkungen
Risiko und Sicherheit
Sowohl katastrophale als auch alltägliche Schäden durch KI hängen davon ab, wer die Risiken versteht und wer handeln kann.
Klarere Entscheidungen
Die öffentliche und berufliche Bildung bestimmt, ob eine starke Sicherheitspolitik politisch möglich ist.
Sich durch den Hype schneiden
Klare Erklärungen reduzieren die Vereinnahmung durch Hype, Labor-PR und vages Ethik-Theater.
Die Zukunft der DSGVO und der automatisierten Entscheidungsfindung
Die Durchsetzung der DSGVO wird intensiviert und überschneidet sich nun mit dem EU-KI-Gesetz, das risikogestufte Verpflichtungen für Hochrisikosysteme wie Kreditbewertung und Einstellung hinzufügt. Erwarten Sie mehr Leitlinien dazu, was als rein automatisierte Entscheidung gilt, eine strengere Kontrolle der Profilerstellung und hohe Geldstrafen (bis zu 4 % des weltweiten Umsatzes). Gerichte, darunter der Gerichtshof der Europäischen Union im Fall der SCHUFA-Bonitätsbewertung, klären aktiv, wann die Erstellung einer Bewertung selbst den Schutz nach Artikel 22 auslöst.
Reale Umsetzung
Eine Bank lehnt einen Kreditkartenantrag mithilfe eines Bewertungsalgorithmus automatisch ab und muss dem Antragsteller dann die Möglichkeit bieten, eine menschliche Überprüfung anzufordern.
Ein Online-Kreditgeber muss einem abgelehnten Kreditnehmer die Hauptfaktoren für eine automatisierte Ablehnung im Rahmen des Rechts auf aussagekräftige Informationen über die Logik mitteilen.
Eine Gig-Economy-Plattform, die Fahrer auf der Grundlage von Bewertungen automatisch deaktiviert, steht vor Herausforderungen gemäß Artikel 22 gegenüber ausschließlich automatisierten Entlassungen.
Um Artikel 22 einzuhalten, muss ein Personalvermittler, der KI-Software zur Lebenslaufprüfung einsetzt, vor endgültigen Einstellungsablehnungen einen menschlichen Kontrollpunkt einbauen.
Risiken und Leitplanken
Das existentielle Risiko wird als Science-Fiction behandelt, während sich die Fähigkeiten verstärken.
Verwechslung von Oberflächenproduktsicherheit mit Ausrichtung unter hoher Autonomie.
Nicht-englischsprachigen und nicht fachkundigen Zielgruppen stehen nur Quellen von geringer Qualität zur Verfügung.
Implementierungs-Roadmap
Separate Risiken für Produktschäden, Missbrauch und Kontrollverlust/Fehlausrichtung.
Fragen Sie, welche Beweise Ihre Sicht auf Zeitpläne und Schweregrad ändern würden.
Bevorzugen Sie Primärquellen und konkrete Bewertungen gegenüber Marketingaussagen.
Identifizieren Sie einen Aktionspfad: Karriere, Politik, Finanzierung oder Fähigkeiten – nicht nur Bewusstsein.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nächster Leitfaden
KI-Entscheidungsfindung
Häufig gestellte Fragen
What is GDPR and Automated Decision-Making?
Die Datenschutz-Grundverordnung der EU gibt Menschen Rechte, wenn Computer automatisch wichtige Entscheidungen über sie treffen. Es handelt sich um eine der weltweit einflussreichsten Regeln, die bestimmen, wie KI-Systeme bei Europäern eingesetzt werden können.
Welcher DSGVO-Artikel befasst sich speziell mit Entscheidungen, die ausschließlich auf automatisierter Verarbeitung basieren?
Artikel 22 gewährt Einzelpersonen das Recht, nicht Entscheidungen unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Auswirkungen haben.
Damit Artikel 22 Anwendung findet, muss die automatisierte Entscheidung generell welche Auswirkungen haben?
Der Schutz tritt in Kraft, wenn eine Entscheidung rechtliche Wirkung entfaltet oder die Person in ähnlicher Weise erheblich beeinträchtigt, beispielsweise eine Kreditverweigerung oder eine Arbeitsverweigerung.
Welche Schutzmaßnahmen muss die Organisation normalerweise bieten, wenn eine ausschließlich automatisierte Entscheidung im Rahmen einer Ausnahme zulässig ist?
Zu den Schutzmaßnahmen gehört das Recht auf menschliches Eingreifen, das Recht, den eigenen Standpunkt zu äußern und die Entscheidung anzufechten.
Was bedeutet es für Artikel 22, dass ein Mensch lediglich die Ausgabe eines Algorithmus absegnet?
Eine sinnvolle menschliche Beteiligung erfordert eine echte Überprüfung und die Autorität, sich außer Kraft zu setzen. Durch eine symbolische Freigabe bleibt die Entscheidung im Geltungsbereich von Artikel 22.