Китайские правила глубокого синтеза и маркировка контента с помощью искусственного интеллекта

Положения об администрировании интернет-информационных услуг глубокого синтеза были выпущены в конце 2022 года Администрацией киберпространства Китая (CAC), Министерством промышленности и информационных технологий и Министерством общественной безопасности и вступили в силу 10 января 2023 года. В них глубокий синтез определяется в широком смысле как технология, которая использует глубокое обучение или виртуальную реальность для создания или редактирования текста, изображений, аудио, видео или виртуальных сцен. Провайдеры должны проверять настоящую личность пользователей, устанавливать правила управления, просматривать контент и поддерживать механизмы развеивания слухов. Когда они предлагают инструменты для редактирования биометрической информации, такой как лицо или голос, они должны предлагать пользователям получить отдельное согласие редактируемого лица. Они также должны представить свои алгоритмы в CAC. Контент, который может сбить с толку или ввести общественность в заблуждение, например искусственные лица, клонированные голоса или реалистичные сцены, должен иметь заметный ярлык, и никто не имеет права удалять или скрывать эти ярлыки. Меры по маркировке 2025 года, принятые CAC совместно с тремя другими агентствами и сопровождаемые обязательным национальным стандартом GB 45438-2025, делают маркировку более конкретной. Явные метки — это видимые или звуковые сигналы, такие как текстовые уведомления, звуковые подсказки или графические метки. Неявные метки внедряются в метаданные файла и включают такую ​​информацию, как имя поставщика и идентификатор контента. Платформы распространения должны проверять загрузки на наличие метаданных. Они отображают уведомление, когда подтверждается создание ИИ, и наносят возможные или подозрительные метки, когда пользователь заявляет об этом или обнаружение предполагает это. Магазины приложений должны проверять соответствие приложений. Западные подходы уже или новее. Статья 50 Закона ЕС об искусственном интеллекте налагает обязанности по прозрачности и маркировке контента, созданного искусственным интеллектом, и дипфейков, но они применяются позже, чем в Китае. В Соединенных Штатах правила дипфейков в основном представляют собой законы штата о предвыборной рекламе и интимных изображениях, тогда как такие стандарты, как учетные данные контента C2PA, являются добровольными. Метки не решают проблему обнаружения: метаданные могут быть удалены с помощью снимков экрана или перекодирования, поэтому Китай ставит обнаружение платформы и пользовательские объявления на первое место.