ДаліНаступний посібник
Каліфорнійські правила ADMT для автоматизованого прийняття рішень
суспільство
Суспільство GUIDE
Китайські правила глибокого синтезу та маркування вмісту AI
Китай регулює дипфейки та інші синтетичні носії за допомогою двох рівнів правил.
На цій сторінці4 хвилини читання
Огляд
Положення про глибокий синтез набули чинності в січні 2023 року. Заходи щодо маркування синтетичного контенту, створеного штучним інтелектом, які діють з 1 вересня 2025 року, вимагають як видимих міток, так і прихованих міток метаданих на тексті, зображеннях, аудіо, відео та віртуальних сценах, створених штучним інтелектом. Разом вони зробили Китай однією з перших юрисдикцій, яка вимагала маркування контенту ШІ по всьому ланцюжку розповсюдження, від інструментів, які створюють контент, до платформ, які його поширюють.
Глибоке занурення
Положення про адміністрування інформаційних Інтернет-сервісів глибокого синтезу були видані наприкінці 2022 року Управлінням кіберпростору Китаю (CAC), Міністерством промисловості та інформаційних технологій і Міністерством громадської безпеки та набули чинності 10 січня 2023 року. Вони визначають глибокий синтез у широкому сенсі як технологію, яка використовує глибоке навчання або віртуальну реальність для створення або редагування тексту, зображень, аудіо, відео або віртуальних сцен. Провайдери повинні перевіряти справжні особи користувачів, встановлювати правила управління, переглядати вміст і підтримувати механізми для розвіювання чуток. Коли вони пропонують інструменти для редагування біометричної інформації, наприклад обличчя чи голосу, вони повинні запропонувати користувачам отримати окрему згоду особи, яку редагують. Вони також повинні подати свої алгоритми до CAC. Контент, який може заплутати або ввести в оману громадськість, як-от штучні обличчя, клоновані голоси чи реалістичні сцени, повинен мати помітну позначку, і ніхто не має права видаляти чи приховувати ці позначки. Заходи щодо маркування 2025 року, видані CAC спільно з трьома іншими агентствами та супроводжувані обов’язковим національним стандартом GB 45438-2025, роблять маркування більш конкретним. Явні мітки – це видимі або звукові сигнали, такі як текстові повідомлення, звукові підказки або графічні позначки. Неявні мітки вбудовані в метадані файлів і містять таку інформацію, як ім’я постачальника та ідентифікатор вмісту. Платформи розповсюдження повинні перевіряти завантаження на наявність метаданих. Вони відображають сповіщення, коли генерація штучного інтелекту підтверджена, і вони застосовують можливі або підозрювані мітки, коли користувач заявляє про це або виявлення пропонує це. Магазини додатків повинні перевіряти відповідність програм. Західні підходи вужчі або новіші. Стаття 50 Закону ЄС про штучний інтелект накладає обов’язки щодо прозорості та маркування контенту, створеного штучним інтелектом, і дипфейків, але вони застосовуються пізніше, ніж у Китаї. У Сполучених Штатах правила deepfake здебільшого стосуються законів штату щодо передвиборчої реклами та інтимних зображень, тоді як такі стандарти, як облікові дані щодо вмісту C2PA, є добровільними. Мітки не вирішують виявлення: метадані можна видалити за допомогою скріншотів або повторного кодування, тому Китай розміщує виявлення платформи та декларації користувачів поверх.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє китайських правил глибокого синтезу та маркування вмісту AI
Застосування заходів щодо маркування 2025 року все ще є новим, і поки неясно, наскільки послідовно платформи виявлятимуть немаркований вміст або як регулятори розглядатимуть помилкові спрацьовування. Технологія водяних знаків постійно вдосконалюється, але поки що жоден метод не витримає кожного редагування, тому маркування, ймовірно, і надалі покладатиметься на кілька сигналів разом. Оскільки зобов’язання ЄС щодо прозорості набувають чинності та все більше країн розглядають правила маркування, технічна сумісність між китайським стандартом метаданих і такими схемами, як C2PA, може стати практичним питанням для глобальних платформ.
Реалізація в реальному світі
Програма для заміни обличчя має додавати помітну мітку до вихідних відео та вимагати від користувачів отримання згоди від особи, обличчя якої редагується. Він також повинен перевіряти справжні особи своїх користувачів.
Генератор зображень штучного інтелекту повинен вставляти приховані метадані в кожен файл, наприклад назву постачальника та ідентифікатор вмісту. Інструменти створення тексту мають відображати видимі підказки, наприклад повідомлення на початку або в кінці створеного тексту або в інтерфейсі.
Платформа короткого відео, яка виявляє метадані, створені за допомогою штучного інтелекту, у завантаженні має відображати мітку, яка повідомляє глядачам, що вміст створено штучним інтелектом. Якщо метаданих немає, але система виявляє ознаки синтезу, вона додає підозрілу мітку.
Очікується, що автор, який завантажує на китайську платформу закадровий голос, створений штучним інтелектом, декларує його як створений штучним інтелектом за допомогою інструменту міток платформи та не повинен видаляти наявні мітки.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the China's Deep Synthesis Rules and AI Content Labeling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке китайські правила глибокого синтезу та маркування вмісту AI?
Китай регулює дипфейки та інші синтетичні носії за допомогою двох рівнів правил. Положення про глибокий синтез набули чинності в січні 2023 року. Заходи щодо маркування синтетичного контенту, створеного штучним інтелектом, які діють з 1 вересня 2025 року, вимагають як видимих міток, так і прихованих міток метаданих на тексті, зображеннях, аудіо, відео та віртуальних сценах, створених штучним інтелектом. Разом вони зробили Китай однією з перших юрисдикцій, яка вимагала маркування контенту ШІ по всьому ланцюжку розповсюдження, від інструментів, які створюють контент, до платформ, які його поширюють.
Коли набули чинності Положення про глибокий синтез Китаю?
Положення про глибокий синтез були оприлюднені наприкінці 2022 року та набули чинності 10 січня 2023 року, перед тим, як були введені Тимчасові заходи AI.
Коли набули чинності заходи щодо маркування синтетичного контенту, створеного штучним інтелектом?
Заходи щодо маркування разом із обов’язковим національним стандартом GB 45438-2025 набули чинності 1 вересня 2025 року.
Що таке неявна позначка згідно з правилами маркування Китаю?
Неявні мітки вбудовані в метадані та не видно безпосередньо. Явні мітки – це видимі або звукові сигнали, які показуються користувачам.
Що повинна робити платформа, якщо завантаження не має метаданих AI, але їх виявлення передбачає синтез?
Платформи використовують рівні. Підтверджений вміст із метаданими отримує чітке сповіщення, згенероване штучним інтелектом, а вміст, позначений виявленням, отримує можливу або підозрювану мітку.
Відповідно до положень глибокого синтезу, що має бути отримано перед тим, як користувач відредагує обличчя чи голос іншої людини?
Постачальники, які пропонують інструменти біометричного редагування, повинні запропонувати користувачам отримати окрему згоду особи, обличчя чи голос якої редагується.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми