HƯỚNG DẪN xã hội

Nhãn nội dung AI trên nền tảng xã hội

Nhãn nội dung AI là các thông báo, chẳng hạn như thẻ 'Thông tin AI' của Meta hoặc nhãn nội dung tổng hợp hoặc được thay đổi của YouTube, mà các nền tảng đính kèm vào các bài đăng được tạo hoặc thay đổi đáng kể bằng AI tổng hợp.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của Nhãn nội dung AI trên nền tảng xã hội
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Chúng được kích hoạt bởi sự tiết lộ của chính người tạo hoặc bởi các tín hiệu mà nền tảng phát hiện được trong tệp. Chúng quan trọng vì chúng là cách chính để khán giả biết rằng hình ảnh, video hoặc giọng nói thực tế có thể không có thật nhưng chúng phụ thuộc vào siêu dữ liệu và tính trung thực của người sáng tạo, cả hai đều rất dễ bị đánh mất.

Lặn sâu

Các nền tảng gắn nhãn nội dung AI theo hai cách: người sáng tạo tự tiết lộ và tự động phát hiện. Tính năng phát hiện tự động chủ yếu đọc các tín hiệu do công cụ tạo ra nội dung để lại. Một là siêu dữ liệu, chẳng hạn như Thông tin xác thực nội dung C2PA và trường loại nguồn kỹ thuật số IPTC, có thể ghi lại rằng hình ảnh được AI tạo hoặc chỉnh sửa. Một cái khác là hình mờ vô hình, chẳng hạn như SynthID của Google, được nhúng trong pixel hoặc âm thanh. Các nền tảng ít dựa vào các bộ phân loại đoán từ chính nội dung vì những bộ phân loại đó mắc nhiều lỗi hơn. Meta bắt đầu gắn nhãn hình ảnh AI trên Facebook, Instagram và Threads vào năm 2024 với thẻ 'Được tạo bằng AI'. Các nhiếp ảnh gia phàn nàn rằng những chỉnh sửa nhỏ có sự hỗ trợ của AI đã kích hoạt nó trên ảnh thật, vì vậy Meta đã đổi tên thành “Thông tin AI” và chuyển nhãn vào menu dành cho nội dung được chỉnh sửa nhẹ. YouTube yêu cầu người sáng tạo tiết lộ nội dung thực tế đã bị thay đổi hoặc tổng hợp, chẳng hạn như người thật dường như đang nói điều gì đó mà họ không hề nói. Nó không yêu cầu tiết lộ nội dung phi thực tế rõ ràng, bộ lọc làm đẹp hoặc AI chỉ được sử dụng cho các tác vụ như viết kịch bản. Nhãn này nổi bật hơn đối với các chủ đề nhạy cảm như bầu cử, sức khỏe và tin tức. TikTok yêu cầu người sáng tạo gắn nhãn nội dung AI thực tế và vào năm 2024 đã bắt đầu đọc Thông tin xác thực nội dung để tự động gắn nhãn cho một số nội dung tải lên. Google và Meta cũng yêu cầu tiết lộ trong các quảng cáo chính trị có chứa nội dung tổng hợp thực tế. Những người sáng tạo vi phạm các quy tắc này có thể phải đối mặt với việc bị xóa nội dung hoặc bị phạt. Những khoảng trống là nghiêm trọng. Ảnh chụp màn hình, mã hóa lại và nhiều ứng dụng chỉnh sửa loại bỏ siêu dữ liệu. Nhiều mẫu có trọng lượng mở không có hình mờ. Các quy tắc khác nhau giữa các nền tảng. Khán giả cũng đọc sai nhãn. Nhãn trên ảnh thật chỉ cần chỉnh sửa một chút có thể cho thấy đó là ảnh giả và việc không có nhãn không chứng minh được nội dung đó là thật.

Triển khai trong thế giới thực

YouTuber đã sử dụng giọng nói nhân bản để tường thuật cảnh tái hiện thực tế sẽ chọn tiết lộ nội dung đã được thay đổi hoặc tổng hợp trong YouTube Studio trong khi tải lên.

Một nhiếp ảnh gia loại bỏ một đối tượng đi lạc bằng công cụ tô màu tổng quát và Instagram tự động thêm nhãn thông tin AI vì phần mềm chỉnh sửa đã ghi siêu dữ liệu AI vào tệp.

Người sáng tạo TikTok tải video lên từ một công cụ đính kèm Thông tin xác thực nội dung và TikTok gắn nhãn video đó là do AI tạo mà người sáng tạo không cần làm gì cả.

Một tài khoản khác đăng lại ảnh chụp màn hình của hình ảnh AI. Ảnh chụp màn hình không có siêu dữ liệu nên không có nhãn tự động xuất hiện, điều này cho thấy một trong những lỗ hổng thực thi chính.

Tương lai của Nhãn nội dung AI trên nền tảng xã hội

Quy định đang tạo thêm áp lực. Điều 50 của Đạo luật AI của Liên minh Châu Âu đặt ra các nghĩa vụ về tính minh bạch, bao gồm việc nhà cung cấp đánh dấu các đầu ra tổng hợp có thể đọc được bằng máy và tiết lộ các thông tin giả mạo sâu của nhà triển khai. Các nghĩa vụ này sẽ được áp dụng từ tháng 8 năm 2026, mặc dù các nhà lập pháp Liên minh Châu Âu đã thảo luận về các giai đoạn chuyển tiếp đối với một số hệ thống hiện có. Một số khu vực pháp lý cũng đã thông qua các quy định về nội dung AI lừa đảo trong các cuộc bầu cử. Nhiều máy ảnh, điện thoại và công cụ chỉnh sửa đang áp dụng Thông tin xác thực nội dung, điều này có thể giúp việc ghi nhãn nhất quán hơn. Một số người trong ngành lập luận về việc xác minh nội dung xác thực cũng như gắn cờ nội dung tổng hợp, bởi vì việc phát hiện sẽ không bao giờ nắm bắt được mọi thứ. Các nền tảng thực thi các quy tắc của họ một cách nhất quán như thế nào và liệu khán giả có hiểu ý nghĩa của nhãn hay không vẫn chưa chắc chắn.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Rủi ro và an toàn. Những tác hại thảm khốc và thường ngày của AI đều phụ thuộc vào việc ai hiểu được rủi ro và ai có thể hành động.
  • Quyết định rõ ràng hơn. Kiến thức công cộng và chuyên môn định hình liệu chính sách an toàn mạnh mẽ có khả thi về mặt chính trị hay không.
  • Phá vỡ sự thổi phồng. Những lời giải thích rõ ràng làm giảm sự thu hút bởi sự cường điệu, PR trong phòng thí nghiệm và sân khấu đạo đức mơ hồ.

coi chừng

  • Xử lý rủi ro hiện hữu như khoa học viễn tưởng trong khi khả năng lại phức tạp.
  • Nhầm lẫn giữa an toàn sản phẩm bề mặt với sự liên kết dưới quyền tự chủ cao.
  • Chỉ để lại những khán giả không phải người Anh và không có chuyên môn với những nguồn chất lượng thấp.

Các bước tiếp theo

  1. Tách biệt các tác hại của sản phẩm, sử dụng sai và rủi ro mất kiểm soát/sai lệch.
  2. Hỏi bằng chứng nào sẽ thay đổi quan điểm của bạn về thời gian và mức độ nghiêm trọng.
  3. Ưu tiên các nguồn chính và đánh giá cụ thể hơn các tuyên bố tiếp thị.
  4. Xác định một lộ trình hành động: sự nghiệp, chính sách, nguồn tài trợ hoặc kỹ năng - không chỉ là nhận thức.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the AI Content Labels on Social Platforms quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Nhãn nội dung AI trên nền tảng xã hội là gì?

Nhãn nội dung AI là các thông báo, chẳng hạn như thẻ 'Thông tin AI' của Meta hoặc nhãn nội dung tổng hợp hoặc được thay đổi của YouTube, mà các nền tảng đính kèm vào các bài đăng được tạo hoặc thay đổi đáng kể bằng AI tổng hợp. Chúng được kích hoạt bởi sự tiết lộ của chính người tạo hoặc bởi các tín hiệu mà nền tảng phát hiện được trong tệp. Chúng quan trọng vì chúng là cách chính để khán giả biết rằng hình ảnh, video hoặc giọng nói thực tế có thể không có thật nhưng chúng phụ thuộc vào siêu dữ liệu và tính trung thực của người sáng tạo, cả hai đều rất dễ bị đánh mất.

Tại sao Meta đổi tên nhãn 'Made with AI' thành 'AI info'?

Những chỉnh sửa nhỏ được thực hiện bằng công cụ AI đã khiến những bức ảnh thật được gắn thẻ 'Được tạo bằng AI'. Từ ngữ 'Thông tin AI' nhẹ nhàng hơn và vị trí menu để chỉnh sửa nhẹ nhàng nhằm giải quyết vấn đề đó.

YouTube yêu cầu người sáng tạo tiết lộ nội dung nào?

Quy tắc của YouTube nhắm đến nội dung thực tế có thể đánh lừa người xem. Nội dung phi thực tế, bộ lọc làm đẹp và AI chỉ được sử dụng cho nhiệm vụ sản xuất đều bị loại trừ.

Nền tảng chủ yếu dựa vào những tín hiệu nào để tự động phát hiện nội dung AI?

Ghi nhãn tự động chủ yếu đọc các tín hiệu gốc do công cụ tạo để lại, nghĩa là siêu dữ liệu và hình mờ, thay vì dựa vào các bộ phân loại dễ bị lỗi.

Tại sao ảnh chụp màn hình của hình ảnh AI không có nhãn tự động?

Việc phát hiện dựa trên siêu dữ liệu phụ thuộc vào tệp mang dữ liệu gốc của nó. Ảnh chụp màn hình và mã hóa lại làm mất nó nên không có tín hiệu nào đến được nền tảng.

Giá trị DigitalSourceType IPTC nào đánh dấu nội dung hoàn toàn do AI tạo?

'Được đào tạoAlgorithmicMedia' biểu thị nội dung được tạo đầy đủ. 'compositeWithTrainedAlgorithmicMedia' đánh dấu các kết hợp bao gồm các phần tử được tạo.