EU-KI-Gesetz
Das EU-KI-Gesetz ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz, das KI-Systeme in Risikostufen einteilt und deren Regeln mit steigender Gefahr skalieren.
Übersicht
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
Tiefer Einblick
Das im Jahr 2024 verabschiedete EU-KI-Gesetz verfolgt einen risikobasierten Ansatz. Es verbietet eine Handvoll „inakzeptabler Risikopraktiken“ gänzlich, wie z. B. staatliches Social Scoring, manipulative unterschwellige Techniken und ungezieltes Abkratzen von Gesichtern zum Aufbau von Erkennungsdatenbanken. „Hochrisiko“-Systeme, wie KI, die bei der Einstellung, Kreditbewertung, medizinischen Geräten oder kritischen Infrastrukturen eingesetzt wird, unterliegen strengen Verpflichtungen: Risikomanagement, qualitativ hochwertige Daten, menschliche Aufsicht, Protokollierung und Konformitätsbewertungen vor dem Markteintritt. „Risikobegrenzte“ Tools wie Chatbots müssen lediglich offenlegen, dass Benutzer mit KI interagieren. Allzweck-KI-Modelle, einschließlich großer Sprachmodelle, unterliegen ihren eigenen Transparenz- und Dokumentationspflichten, wobei die leistungsfähigsten Modelle für „systemische Risiken“ einer besonderen Prüfung unterzogen werden. Die Strafen betragen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes.
Technischer Einblick
Das Gesetz regelt nach Anwendungsfall, nicht nach Algorithmus. Je nach Kontext kann das gleiche Modell bei einem Produkt ein geringes Risiko und bei einem anderen ein hohes Risiko aufweisen. Anbieter mit hohem Risiko müssen technische Dokumentation pflegen, automatische Ereignisprotokolle zur Rückverfolgbarkeit führen, sicherstellen, dass Datensätze relevant und repräsentativ sind, um Verzerrungen zu begrenzen, und eine sinnvolle menschliche Aufsicht einbauen. Für Allzweckmodelle veröffentlichen Anbieter Trainingsdatenzusammenfassungen und führen oberhalb eines Rechenschwellenwerts (10^25 FLOPs) Modellbewertungen und kontradiktorische Tests durch.
Strategische Auswirkungen
Risiko und Sicherheit
Sowohl katastrophale als auch alltägliche Schäden durch KI hängen davon ab, wer die Risiken versteht und wer handeln kann.
Klarere Entscheidungen
Die öffentliche und berufliche Bildung bestimmt, ob eine starke Sicherheitspolitik politisch möglich ist.
Sich durch den Hype schneiden
Klare Erklärungen reduzieren die Vereinnahmung durch Hype, Labor-PR und vages Ethik-Theater.
Die Zukunft des EU-KI-Gesetzes
Das Gesetz erstreckt sich über mehrere Jahre: Verbote verbotener Praktiken werden erstmals Anfang 2025 in Kraft gesetzt, allgemeine Modellregeln werden befolgt und die meisten risikoreichen Verpflichtungen werden zwischen 2026 und 2027 eingeführt. Erwarten Sie harmonisierte technische Standards von CEN-CENELEC, die genau definieren, wie die Einhaltung gemessen wird, sowie regulatorische Sandboxen für Start-ups. Wie die DSGVO zuvor wird das Gesetz wahrscheinlich die KI-Gesetze weltweit prägen, da andere Jurisdiktionen seine Risikostufenstruktur übernehmen, auch wenn Kritiker darüber diskutieren, ob es die europäische Innovation verlangsamt.
Reale Umsetzung
Eine Bank, die ein KI-Kreditbewertungstool einsetzt, muss ihre Trainingsdaten dokumentieren, auf Voreingenommenheit testen und dafür sorgen, dass Menschen in die Lage versetzt werden, automatisierte Kreditablehnungen zu überprüfen und zu überschreiben.
Ein Krankenhaus, das KI zur Triage medizinischer Scans einsetzt, muss vor dem klinischen Einsatz eine Konformitätsbewertung bestehen und das Hochrisikosystem in einer EU-Datenbank registrieren.
Ein Kundendienst-Chatbot muss den Benutzern im Rahmen der Transparenzregel mit begrenztem Risiko klar mitteilen, dass sie mit einer KI und nicht mit einem menschlichen Agenten sprechen.
Ein Hersteller eines großen Sprachmodells über dem Rechenschwellenwert muss kontroverse Red-Team-Tests durchführen und schwerwiegende Vorfälle dem EU-KI-Büro melden.
Risiken und Leitplanken
Das existentielle Risiko wird als Science-Fiction behandelt, während sich die Fähigkeiten verstärken.
Verwechslung von Oberflächenproduktsicherheit mit Ausrichtung unter hoher Autonomie.
Nicht-englischsprachigen und nicht fachkundigen Zielgruppen stehen nur Quellen von geringer Qualität zur Verfügung.
Implementierungs-Roadmap
Separate Risiken für Produktschäden, Missbrauch und Kontrollverlust/Fehlausrichtung.
Fragen Sie, welche Beweise Ihre Sicht auf Zeitpläne und Schweregrad ändern würden.
Bevorzugen Sie Primärquellen und konkrete Bewertungen gegenüber Marketingaussagen.
Identifizieren Sie einen Aktionspfad: Karriere, Politik, Finanzierung oder Fähigkeiten – nicht nur Bewusstsein.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Nächster Leitfaden
ISO/IEC 42001 KI-Management
Häufig gestellte Fragen
What is EU AI Act?
Das EU-KI-Gesetz ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz, das KI-Systeme in Risikostufen einteilt und deren Regeln mit steigender Gefahr skalieren. Es ist wichtig, weil es de facto einen globalen Standard festlegt, den jedes Unternehmen befolgen muss, das KI in die EU verkauft.
Nach welchem Organisationsprinzip legt das EU-KI-Gesetz seine Regeln fest?
Das Gesetz ordnet KI basierend auf dem Anwendungsfall und dem potenziellen Schaden in Risikostufen (inakzeptabel, hoch, begrenzt, minimal) ein, nicht auf der Grundlage der Unternehmensgröße oder des Algorithmustyps.
Welche davon ist eine Praxis mit „inakzeptablem Risiko“, die durch das Gesetz gänzlich verboten ist?
Das staatliche Social Scoring gehört neben manipulativen unterschwelligen Techniken und ungezieltem Gesichtserkennungs-Scraping zu den verbotenen Praktiken.
Was ist die Hauptverpflichtung für ein „risikobegrenztes“ System wie einen Chatbot?
Bei Systemen mit begrenztem Risiko sind vor allem Transparenzpflichten zu beachten, etwa die Mitteilung an die Nutzer, dass sie es mit einer KI und nicht mit einem Menschen zu tun haben.
Wie hoch ist die maximale Geldstrafe nach dem EU-KI-Gesetz?
Die höchsten Bußgelder belaufen sich bei schwersten Verstößen auf 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Wie behandelt das Gesetz dasselbe KI-Modell, das in zwei verschiedenen Produkten verwendet wird?
Da das Gesetz nach Anwendungsfall regelt, kann ein Modell in einem Einstellungstool ein hohes Risiko darstellen, in einer anderen Anwendung jedoch ein geringes Risiko.