Als nächstesNächster Leitfaden
Kalifornien ADMT-Regeln für automatisierte Entscheidungsfindung
Gesellschaft
Gesellschaftsführer
Chinas Deep-Synthese-Regeln und KI-Inhaltskennzeichnung
China reguliert Deepfakes und andere synthetische Medien durch zwei Regelebenen.
Auf dieser Seite4 Minuten gelesen
Übersicht
Die Deep Synthesis-Bestimmungen traten im Januar 2023 in Kraft. Die seit dem 1. September 2025 in Kraft getretenen Maßnahmen zur Kennzeichnung von KI-generierten synthetischen Inhalten erfordern sowohl sichtbare Kennzeichnungen als auch versteckte Metadatenkennzeichnungen auf KI-generierten Texten, Bildern, Audio-, Video- und virtuellen Szenen. Zusammen machen sie China zu einem der ersten Gerichtsbarkeiten, das die Kennzeichnung von KI-Inhalten in der gesamten Vertriebskette vorschreibt, von den Tools, die Inhalte generieren, bis hin zu den Plattformen, die sie verbreiten.
Tiefer Einblick
Die Bestimmungen zur Verwaltung von Deep Synthesis Internet Information Services wurden Ende 2022 von der Cyberspace Administration of China (CAC), dem Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit erlassen und traten am 10. Januar 2023 in Kraft. Sie definieren Deep Synthesis im weitesten Sinne als Technologie, die Deep Learning oder virtuelle Realität nutzt, um Text, Bilder, Audio, Video oder virtuelle Szenen zu generieren oder zu bearbeiten. Anbieter müssen die tatsächlichen Identitäten der Benutzer überprüfen, Verwaltungsregeln festlegen, Inhalte überprüfen und Mechanismen zur Zerstreuung von Gerüchten bereitstellen. Wenn sie Tools zum Bearbeiten biometrischer Informationen wie Gesicht oder Stimme anbieten, müssen sie Benutzer auffordern, die gesonderte Zustimmung der bearbeiteten Person einzuholen. Sie müssen ihre Algorithmen auch beim CAC einreichen. Inhalte, die die Öffentlichkeit verwirren oder irreführen könnten, wie etwa künstliche Gesichter, geklonte Stimmen oder realistische Szenen, müssen eine auffällige Kennzeichnung tragen, und niemand darf diese Kennzeichnung entfernen oder verbergen. Die Kennzeichnungsmaßnahmen für 2025, die vom CAC zusammen mit drei anderen Behörden herausgegeben wurden und von einer verbindlichen nationalen Norm, GB 45438-2025, begleitet werden, machen die Kennzeichnung spezifischer. Explizite Bezeichnungen sind sichtbare oder hörbare Hinweise wie Texthinweise, Audioaufforderungen oder grafische Markierungen. Implizite Labels werden in Dateimetadaten eingebettet und enthalten Informationen wie den Namen des Anbieters und eine Inhalts-ID. Vertriebsplattformen müssen Uploads auf Metadaten prüfen. Sie zeigen einen Hinweis an, wenn die KI-Generierung bestätigt wird, und sie versehen mögliche oder vermutete Bezeichnungen, wenn der Benutzer dies angibt oder die Erkennung dies nahelegt. App Stores müssen prüfen, ob Apps den Anforderungen entsprechen. Westliche Ansätze sind enger oder neuer. Artikel 50 des EU-KI-Gesetzes schreibt Transparenz- und Kennzeichnungspflichten für KI-generierte Inhalte und Deepfakes vor, diese gelten jedoch später als China. In den Vereinigten Staaten handelt es sich bei den Deepfake-Regeln meist um staatliche Gesetze zu Wahlwerbung und intimen Bildern, während Standards wie C2PA-Zugangsdaten für Inhalte freiwillig sind. Etiketten lösen die Erkennung nicht: Metadaten können durch Screenshots oder Neukodierung entfernt werden, weshalb China die Plattformerkennung und Benutzerdeklarationen darüber legt.
Strategische Auswirkungen
Risiko und Sicherheit
Sowohl katastrophale als auch alltägliche Schäden durch KI hängen davon ab, wer die Risiken versteht und wer handeln kann.
Klarere Entscheidungen
Die öffentliche und berufliche Bildung bestimmt, ob eine starke Sicherheitspolitik politisch möglich ist.
Sich durch den Hype schneiden
Klare Erklärungen reduzieren die Vereinnahmung durch Hype, Labor-PR und vages Ethik-Theater.
Die Zukunft von Chinas Deep-Synthese-Regeln und der Kennzeichnung von KI-Inhalten
Die Durchsetzung der Kennzeichnungsmaßnahmen für 2025 ist noch neu und es ist noch nicht klar, wie konsequent Plattformen nicht gekennzeichnete Inhalte erkennen oder wie die Regulierungsbehörden mit falsch positiven Ergebnissen umgehen werden. Die Wasserzeichentechnologie verbessert sich ständig, aber noch überlebt keine Methode jede Änderung, sodass die Kennzeichnung wahrscheinlich weiterhin auf mehreren Signalen zusammen basieren wird. Da die Transparenzverpflichtungen der EU in Kraft treten und immer mehr Länder über Kennzeichnungsregeln nachdenken, könnte die technische Interoperabilität zwischen Chinas Metadatenstandard und Systemen wie C2PA zu einer praktischen Frage für globale Plattformen werden.
Reale Umsetzung
Eine Face-Swap-App muss ihren Ausgabevideos eine auffällige Kennzeichnung hinzufügen und Benutzer dazu verpflichten, die Zustimmung der Person einzuholen, deren Gesicht bearbeitet wird. Es muss auch die tatsächliche Identität seiner Benutzer überprüfen.
Ein KI-Bildgenerator muss in jede Datei versteckte Metadaten einbetten, etwa den Namen des Anbieters und eine Inhaltskennung. Tools zur Textgenerierung müssen sichtbare Hinweise anzeigen, z. B. Hinweise am Anfang oder Ende des generierten Texts oder in der Benutzeroberfläche.
Eine Kurzvideoplattform, die KI-generierte Metadaten in einem Upload erkennt, muss eine Kennzeichnung aufweisen, die den Zuschauern mitteilt, dass der Inhalt KI-generiert ist. Wenn keine Metadaten vorhanden sind, die Systeme jedoch Anzeichen einer Synthese erkennen, fügt es eine verdächtige Kennzeichnung hinzu.
Von einem Ersteller, der einen von KI erstellten Voiceover auf eine chinesische Plattform hochlädt, wird erwartet, dass er ihn mithilfe des Kennzeichnungstools der Plattform als KI-generiert deklariert und darf bestehende Kennzeichnungen nicht entfernen.
Risiken und Leitplanken
Das existentielle Risiko wird als Science-Fiction behandelt, während sich die Fähigkeiten verstärken.
Verwechslung von Oberflächenproduktsicherheit mit Ausrichtung unter hoher Autonomie.
Nicht-englischsprachigen und nicht fachkundigen Zielgruppen stehen nur Quellen von geringer Qualität zur Verfügung.
Implementierungs-Roadmap
Separate Risiken für Produktschäden, Missbrauch und Kontrollverlust/Fehlausrichtung.
Fragen Sie, welche Beweise Ihre Sicht auf Zeitpläne und Schweregrad ändern würden.
Bevorzugen Sie Primärquellen und konkrete Bewertungen gegenüber Marketingaussagen.
Identifizieren Sie einen Aktionspfad: Karriere, Politik, Finanzierung oder Fähigkeiten – nicht nur Bewusstsein.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the China's Deep Synthesis Rules and AI Content Labeling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Häufig gestellte Fragen
Was sind Chinas Deep-Synthese-Regeln und die Kennzeichnung von KI-Inhalten?
China reguliert Deepfakes und andere synthetische Medien durch zwei Regelebenen. Die Deep Synthesis-Bestimmungen traten im Januar 2023 in Kraft. Die seit dem 1. September 2025 in Kraft getretenen Maßnahmen zur Kennzeichnung von KI-generierten synthetischen Inhalten erfordern sowohl sichtbare Kennzeichnungen als auch versteckte Metadatenkennzeichnungen auf KI-generierten Texten, Bildern, Audio-, Video- und virtuellen Szenen. Zusammen machen sie China zu einem der ersten Gerichtsbarkeiten, das die Kennzeichnung von KI-Inhalten in der gesamten Vertriebskette vorschreibt, von den Tools, die Inhalte generieren, bis hin zu den Plattformen, die sie verbreiten.
Wann traten Chinas Deep Synthesis-Bestimmungen in Kraft?
Die Deep Synthesis-Bestimmungen wurden Ende 2022 erlassen und traten am 10. Januar 2023 vor den generativen KI-Vorläufigen Maßnahmen in Kraft.
Wann traten die Maßnahmen zur Kennzeichnung KI-generierter synthetischer Inhalte in Kraft?
Die Kennzeichnungsmaßnahmen traten zusammen mit der verbindlichen nationalen Norm GB 45438-2025 am 1. September 2025 in Kraft.
Was ist ein implizites Etikett gemäß den Etikettierungsvorschriften Chinas?
Implizite Labels sind in Metadaten eingebettet und nicht direkt sichtbar. Explizite Labels sind die sichtbaren oder hörbaren Hinweise, die Benutzern angezeigt werden.
Was sollte eine Plattform tun, wenn ein Upload keine KI-Metadaten enthält, seine Erkennung jedoch eine Synthese nahelegt?
Plattformen verwenden Ebenen. Bestätigte Inhalte mit Metadaten erhalten einen klaren, von der KI generierten Hinweis, und durch Erkennung gekennzeichnete Inhalte erhalten eine mögliche oder verdächtige Kennzeichnung.
Was muss gemäß den Deep Synthesis-Bestimmungen erreicht werden, bevor ein Benutzer das Gesicht oder die Stimme einer anderen Person bearbeitet?
Anbieter, die biometrische Bearbeitungstools anbieten, müssen Nutzer auffordern, die gesonderte Einwilligung der Person einzuholen, deren Gesicht oder Stimme bearbeitet wird.
Lerne weiter
Verwandte Leitfäden
Weitere Leitfäden zu diesem Thema ausgewählt