HƯỚNG DẪN AI trực quan

Hình mờ vô hình cho hình ảnh và âm thanh AI

Hình mờ vô hình cho hình ảnh và âm thanh AI là các tín hiệu ẩn trực tiếp trong giá trị pixel hoặc sóng âm thanh.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyđọc 4 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của hình mờ vô hình cho hình ảnh và âm thanh AI
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Mọi người không thể nhìn hoặc nghe thấy chúng nhưng một trình phát hiện phù hợp có thể tìm thấy chúng và gắn cờ nội dung là do máy tạo. Các hệ thống như SynthID của Google DeepMind và AudioSeal của Meta rất quan trọng vì nhãn hiệu di chuyển cùng với chính nội dung, không giống như nhãn siêu dữ liệu và được thiết kế để tồn tại trong các chỉnh sửa thông thường như nén và cắt xén.

Lặn sâu

Hình mờ văn bản hoạt động bằng cách nhắc nhở những từ mà mô hình ngôn ngữ chọn. Hình ảnh và âm thanh cung cấp một khung vẽ khác: hàng triệu giá trị pixel hoặc hàng chục nghìn mẫu âm thanh mỗi giây, hầu hết trong số đó có thể thay đổi một chút mà không ai nhận ra. Một hình mờ vô hình sử dụng độ chùng đó. Nó bổ sung một mô hình có cấu trúc nằm ở mức thấp hơn nhiều so với những gì mọi người có thể cảm nhận được nhưng lại rõ ràng về mặt thống kê đối với một máy dò được đào tạo để tìm kiếm nó. Google DeepMind đã giới thiệu SynthID vào năm 2023 cho hình ảnh từ các mẫu Imagen và sau đó mở rộng sang âm thanh, video và văn bản. Nó sử dụng hai mạng lưới thần kinh: một mạng nhúng dấu hiệu và mạng kia phát hiện nó. Thay vì dán một mẫu cố định, trình nhúng sẽ tìm hiểu xem những thay đổi nào sẽ ít được nhìn thấy nhất và lâu bền nhất. AudioSeal của Meta, được xuất bản vào năm 2024, đào tạo bộ tạo và bộ phát hiện cùng nhau và có thể bản địa hóa dấu thành các đoạn âm thanh ngắn, điều này hữu ích khi ghép clip tổng hợp thành bản ghi âm thực. Chữ ký ổn định trước đây của Meta đã tinh chỉnh bộ giải mã hình ảnh của mô hình khuếch tán để mỗi đầu ra đều mang một dấu. Các phương pháp học thuật như Tree-Ring che giấu một khuôn mẫu trong tiếng ồn ban đầu của mô hình. Việc phát hiện có tính xác suất. Một máy dò báo cáo điểm tin cậy và các nhà thiết kế của nó đánh đổi các cảnh báo sai để lấy các dấu hiệu bị bỏ sót. Sự mạnh mẽ cũng có giới hạn. Các dấu hiệu được xây dựng để tồn tại trong quá trình nén, thay đổi kích thước và lọc nhẹ, nhưng các cuộc tấn công kiên quyết có thể làm suy yếu hoặc loại bỏ chúng. Các ví dụ bao gồm tái tạo hình ảnh thông qua mô hình khuếch tán, thêm nhiễu bất lợi hoặc áp dụng hiệu ứng âm thanh nặng. Có hai quan niệm sai lầm phổ biến. Đầu tiên, việc không tìm thấy hình mờ không chứng minh được nội dung là có thật. Nó chỉ có nghĩa là không có dấu hiệu nào từ hệ thống cụ thể đó được tìm thấy. Thứ hai, hình mờ vô hình không giống với thông tin xác thực nội dung C2PA. Chúng là những siêu dữ liệu đã ký được đính kèm vào một tệp và chúng có thể bị mất khi tệp được lưu lại hoặc chụp màn hình bởi phần mềm không lưu giữ chúng.

Triển khai trong thế giới thực

Bộ phận tin tức kiểm tra một bức ảnh lan truyền sẽ chạy nó thông qua trình kiểm tra dựa trên SynthID để xem liệu mô hình hình ảnh Google có tạo ra nó hay không và coi kết quả âm tính là 'không xác định' thay vì 'thực'.

Nền tảng podcast quét các clip đã tải lên bằng trình phát hiện kiểu AudioSeal để gắn cờ lời nói tổng hợp. Bởi vì trình phát hiện có thể bản địa hóa dấu nên nó chỉ ra giây nào của tệp được tạo.

Dịch vụ tạo hình ảnh sẽ nhúng hình mờ vào mọi đầu ra tại thời điểm tạo, do đó, các báo cáo lạm dụng sau này có thể được kiểm tra dựa trên hình ảnh của chính mô hình đó.

Một nhà nghiên cứu nén JPEG, thay đổi kích thước, cắt và chụp ảnh màn hình các hình ảnh có hình mờ, sau đó đo tần suất máy dò vẫn hoạt động để lập bản đồ nơi dấu bị hỏng.

Tương lai của hình mờ vô hình cho hình ảnh và âm thanh AI

Hình mờ có thể trở thành một lớp trong số nhiều lớp hơn là một câu trả lời hoàn chỉnh. Các nhà cung cấp đang ghép các nhãn hiệu vô hình với siêu dữ liệu xuất xứ đã ký như C2PA và một số chính phủ đang thảo luận hoặc áp dụng các quy tắc yêu cầu nhà cung cấp AI dán nhãn phương tiện tổng hợp, mặc dù các yêu cầu khác nhau tùy theo khu vực pháp lý. Vấn đề mở vẫn còn. Trình phát hiện của một nhà cung cấp không thể đọc nhãn hiệu của nhà cung cấp khác, các mô hình nguồn mở có thể chạy mà không có hình mờ nào cả và các cuộc tấn công tái tạo tiếp tục được cải thiện. Mong đợi nhiều nghiên cứu hơn về các nhãn hiệu tồn tại sau các chỉnh sửa mạnh mẽ hơn, hướng tới các tiêu chuẩn phát hiện được chia sẻ và thông điệp công khai rõ ràng hơn rằng hình mờ bị thiếu không phải là bằng chứng về tính xác thực.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Tốc độ và tỷ lệ. Visual AI có thể tự động hóa các nhiệm vụ kiểm tra, phát hiện và gắn thẻ trên quy mô lớn.
  • Xây dựng lựa chọn. Các nhóm sáng tạo có thể tạo nguyên mẫu nhanh hơn với ít sửa đổi thủ công hơn.
  • Nhóm và quy trình làm việc. Các hoạt động có thể sử dụng tín hiệu hình ảnh và video mà trước đây khó xử lý.

coi chừng

  • Quyền và sự đồng ý về hình ảnh có thể trở thành rủi ro pháp lý nếu nguồn gốc xuất xứ không rõ ràng.
  • Hiệu suất của mô hình có thể khác nhau tùy theo ánh sáng, nhân khẩu học và môi trường.
  • Kết quả dương tính giả có thể không được chú ý trừ khi ngưỡng tin cậy được theo dõi.

Các bước tiếp theo

  1. Xác định tiêu chí chấp nhận về độ chính xác, thu hồi và chi phí lỗi.
  2. Kiểm tra với dữ liệu phù hợp với điều kiện sản xuất thực tế.
  3. Thêm đánh giá của con người đối với những dự đoán có độ tin cậy thấp hoặc tác động cao.
  4. Theo dõi sự trôi dạt của mô hình và xác nhận lại sau khi thay đổi máy ảnh hoặc tập dữ liệu.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Invisible Watermarks for AI Images and Audio quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Hình mờ vô hình cho hình ảnh và âm thanh AI là gì?

Hình mờ vô hình cho hình ảnh và âm thanh AI là các tín hiệu ẩn trực tiếp trong giá trị pixel hoặc sóng âm thanh. Mọi người không thể nhìn hoặc nghe thấy chúng nhưng một trình phát hiện phù hợp có thể tìm thấy chúng và gắn cờ nội dung là do máy tạo. Các hệ thống như SynthID của Google DeepMind và AudioSeal của Meta rất quan trọng vì nhãn hiệu di chuyển cùng với chính nội dung, không giống như nhãn siêu dữ liệu và được thiết kế để tồn tại trong các chỉnh sửa thông thường như nén và cắt xén.

Hình mờ hình ảnh và âm thanh vô hình khác với hình mờ văn bản mà hướng dẫn tương phản chúng như thế nào?

Hình mờ văn bản thiên vị mà mã thông báo mà mô hình chọn. Hình mờ hình ảnh và âm thanh tự thay đổi giá trị pixel hoặc mẫu với số lượng quá nhỏ để có thể nhận biết được.

Tổ chức nào đã phát triển AudioSeal?

AudioSeal được Meta xuất bản vào năm 2024. Nó đào tạo bộ tạo và bộ phát hiện cùng nhau, đồng thời có thể định vị dấu trong một đoạn âm thanh ngắn.

Máy dò không tìm thấy hình mờ trong hình ảnh. Bạn có thể kết luận chính xác điều gì?

Máy dò chỉ nhận ra dấu hiệu của hệ thống của chính họ và dấu hiệu có thể bị xóa. Kết quả âm tính có nghĩa là 'không xác định', không phải 'xác thực'.

Hướng dẫn mô tả cuộc tấn công nào có thể làm suy yếu hoặc loại bỏ hình mờ trên hình ảnh?

Tái tạo sẽ xây dựng lại các pixel thông qua mô hình khuếch tán, mô hình này có thể xóa bỏ mẫu ẩn. Tiếng ồn bất lợi là một cuộc tấn công khác mà hướng dẫn đề cập.

Phương pháp Tree-Ring hàn lâm giấu hình mờ của nó ở đâu?

Tree-Ring đặt một mẫu vào tiếng ồn ban đầu mà mô hình khuếch tán bắt đầu từ đó, do đó, dấu hiệu được tích hợp vào chính quá trình tạo.