Невидимые водяные знаки для изображений и аудио AI

Текстовые водяные знаки работают, подсказывая, какие слова выбирает языковая модель. Изображения и аудио предлагают другой холст: миллионы значений пикселей или десятки тысяч аудиосэмплов в секунду, большинство из которых могут незначительно меняться, и никто этого не замечает. Невидимый водяной знак использует эту слабину. Он добавляет структурированный образец, который находится намного ниже того, что могут воспринимать люди, но статистически очевиден для детектора, обученного его искать. Google DeepMind представил SynthID в 2023 году для изображений своих моделей Imagen, а позже расширил его до аудио, видео и текста. Он использует две нейронные сети: одна встраивает метку, а другая ее обнаруживает. Вместо того, чтобы штамповать фиксированный шаблон, специалист по внедрению узнает, где изменения будут наименее заметными и наиболее устойчивыми. AudioSeal от Meta, опубликованный в 2024 году, совместно обучает генератор и детектор и может локализовать метку до коротких фрагментов звука, что помогает, когда синтетический клип вставляется в реальную запись. В более ранней работе Meta Stable Signature декодер изображения диффузной модели был точно настроен так, чтобы каждый выходной сигнал имел пометку. Академические методы, такие как Tree-Ring, скрывают закономерности в начальном шуме модели. Обнаружение вероятностное. Детектор сообщает о показателе достоверности, а его разработчики обменивают ложные срабатывания на пропущенные отметки. Надежность тоже имеет пределы. Метки созданы так, чтобы выдерживать сжатие, изменение размера и мягкую фильтрацию, но решительные атаки могут ослабить или удалить их. Примеры включают регенерацию изображения с помощью модели диффузии, добавление враждебного шума или применение тяжелых звуковых эффектов. Распространены два заблуждения. Во-первых, отсутствие водяных знаков не доказывает подлинность контента. Это лишь означает, что не было обнаружено никаких отметок из этой конкретной системы. Во-вторых, невидимые водяные знаки — это не то же самое, что учетные данные контента C2PA. Это подписанные метаданные, прикрепленные к файлу, и они могут быть потеряны при повторном сохранении файла или создании снимка экрана с помощью программного обеспечения, которое их не сохраняет.