ДалееСледующее руководство
Использование ИИ в эссе для поступления в колледж
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Ярлыки контента AI на социальных платформах
Метки контента AI — это уведомления, такие как тег «Информация AI» Meta или метка измененного или синтетического контента YouTube, которые платформы прикрепляют к сообщениям, созданным или значительно измененным с помощью генеративного искусственного интеллекта.
На этой странице4 минуты чтения
Обзор
Они инициируются либо собственным раскрытием информации создателем, либо сигналами, которые платформа обнаруживает в файле. Они важны, потому что являются основным способом, с помощью которого аудитория узнает, что реалистичное изображение, видео или голос могут быть нереальными, однако они зависят от метаданных и честности создателя, которые легко потерять.
Глубокое погружение
Платформы маркируют контент ИИ двумя способами: самораскрытие создателя и автоматическое обнаружение. Автоматизированное обнаружение в основном считывает сигналы, оставленные инструментами, создавшими контент. Одним из них являются метаданные, такие как учетные данные контента C2PA и поле типа цифрового источника IPTC, которые могут фиксировать, что изображение было создано или отредактировано ИИ. Другой вариант — невидимые водяные знаки, такие как SynthID Google, встроенные в пиксели или звук. Платформы меньше полагаются на классификаторы, которые делают выводы на основе самого контента, поскольку они допускают больше ошибок. Meta начал маркировать изображения ИИ в Facebook, Instagram и Threads в 2024 году тегом «Сделано с AI». Фотографы жаловались, что незначительные правки с помощью искусственного интеллекта вызывали это явление на реальных фотографиях, поэтому Meta переименовал его в «Информация об AI» и переместил ярлык в меню для слегка отредактированного контента. YouTube требует от создателей раскрывать реалистичный контент, который является измененным или синтетическим, например, когда реальный человек говорит то, чего он не говорил. Он не требует раскрытия явно нереалистичного контента, фильтров красоты или искусственного интеллекта, используемого только для таких задач, как написание сценариев. Ярлык более заметен для деликатных тем, таких как выборы, здоровье и новости. TikTok требует, чтобы авторы помечали реалистичный AI-контент, и в 2024 году начал читать учетные данные контента, чтобы автоматически помечать некоторые загрузки. Google и Meta также требуют раскрытия информации в политической рекламе, содержащей реалистичный синтетический контент. Авторы, нарушающие эти правила, могут столкнуться с удалением контента или штрафами. Пробелы серьезные. Скриншоты, перекодирование и многие приложения для редактирования удаляют метаданные. Многие модели открытого веса не имеют водяных знаков. Правила различаются от платформы к платформе. Аудитория также неправильно понимает ярлыки. Ярлык на реальной фотографии с небольшими изменениями может указывать на то, что это подделка, а отсутствие ярлыка не доказывает, что контент настоящий.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее маркировок контента с использованием искусственного интеллекта на социальных платформах
Регулирование усиливает давление. Статья 50 Закона ЕС об искусственном интеллекте устанавливает обязательства по прозрачности, включая машиночитаемую маркировку синтетических результатов поставщиками и раскрытие дипфейков развертывателями, и эти обязательства должны применяться с августа 2026 года, хотя законодатели ЕС обсуждали переходные периоды для некоторых существующих систем. В нескольких юрисдикциях также были приняты правила, касающиеся мошеннического контента ИИ на выборах. Все больше камер, телефонов и инструментов редактирования используют учетные данные контента, что может сделать маркировку более единообразной. Некоторые представители отрасли выступают за проверку подлинности контента, а также за пометку синтетического контента, поскольку обнаружение никогда не уловит все. Насколько последовательно платформы соблюдают свои правила и понимает ли аудитория, что означают ярлыки, остается неясным.
Реальная реализация
YouTuber, который использовал клонированный голос, чтобы рассказать реалистичную реконструкцию, выбирает измененное или синтетическое раскрытие контента в YouTube Studio во время загрузки.
Фотограф удаляет случайный объект с помощью инструмента генеративной заливки, а Instagram автоматически добавляет информационную метку AI, поскольку программное обеспечение для редактирования записывает метаданные AI в файл.
Создатель TikTok загружает видео с помощью инструмента, который прикрепляет учетные данные контента, а TikTok помечает его как созданное искусственным интеллектом, причем создатель ничего не делает.
Другой аккаунт репостит скриншот изображения AI. На снимке экрана нет метаданных, поэтому автоматическая метка не появляется, что указывает на один из основных пробелов в обеспечении соблюдения требований.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Content Labels on Social Platforms quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часто задаваемые вопросы
Что такое ИИ-маркеры контента на социальных платформах?
Метки контента AI — это уведомления, такие как тег «Информация AI» Meta или метка измененного или синтетического контента YouTube, которые платформы прикрепляют к сообщениям, созданным или значительно измененным с помощью генеративного искусственного интеллекта. Они инициируются либо собственным раскрытием информации создателем, либо сигналами, которые платформа обнаруживает в файле. Они важны, потому что являются основным способом, с помощью которого аудитория узнает, что реалистичное изображение, видео или голос могут быть нереальными, однако они зависят от метаданных и честности создателя, которые легко потерять.
Почему Meta переименовал ярлык «Сделано с помощью AI» на «Информация об AI»?
Небольшие изменения, внесенные с помощью инструментов ИИ, привели к тому, что реальные фотографии стали помечаться как «Сделано с помощью ИИ». Более мягкая формулировка «Информация об искусственном интеллекте» и расположение меню для легких правок были призваны решить эту проблему.
Какой контент YouTube требует от создателей раскрывать?
Правило YouTube нацелено на реалистичный контент, который может ввести зрителей в заблуждение. Исключены нереалистичный контент, бьюти-фильтры и искусственный интеллект, используемый только для производственных задач.
На какие сигналы в основном полагаются платформы для автоматического обнаружения ИИ-контента?
Автоматизированная маркировка в основном считывает сигналы происхождения, оставленные инструментом создания, то есть метаданные и водяные знаки, вместо того, чтобы полагаться на подверженные ошибкам классификаторы.
Почему скриншот изображения AI может не получить автоматическую метку?
Обнаружение на основе метаданных зависит от файла, содержащего данные его происхождения. Скриншоты и перекодирование отбрасывают его, поэтому сигнал не доходит до платформы.
Какое значение IPTC digitalSourceType отмечает контент, полностью созданный искусственным интеллектом?
«trainedAlgorithmicMedia» указывает на полностью сгенерированный контент. «compositeWithTrainedAlgorithmicMedia» отмечает составные элементы, включающие сгенерированные элементы.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме