NastępnyNastępny poradnik
Nasiona i odtwarzalność w generowaniu obrazu AI
Wizualna sztuczna inteligencja
PRZEWODNIK Wizualnej AI
Niewidoczne znaki wodne dla obrazów i dźwięku AI
Niewidoczne znaki wodne dla obrazów i dźwięku AI to sygnały ukryte bezpośrednio w wartościach pikseli lub falach dźwiękowych.
Na tej stronie4 minuty czytania
Przegląd
Ludzie ich nie widzą ani nie słyszą, ale pasujący detektor może je znaleźć i oznaczyć treść jako wygenerowaną maszynowo. Systemy takie jak SynthID Google DeepMind i AudioSeal Meta mają znaczenie, ponieważ znak przemieszcza się wraz z treścią, w przeciwieństwie do etykiety metadanych, i jest zaprojektowany tak, aby przetrwać typowe zmiany, takie jak kompresja i kadrowanie.
Głębokie nurkowanie
Tekstowe znaki wodne działają poprzez podsuwanie słów wybieranych przez model języka. Obrazy i dźwięk oferują inne płótno: miliony wartości pikseli lub dziesiątki tysięcy próbek dźwięku na sekundę, z których większość może nieznacznie się przesunąć, niezauważalnie. Niewidzialny znak wodny wykorzystuje ten luz. Dodaje uporządkowany wzór, który jest znacznie gorszy od tego, co ludzie mogą dostrzec, ale jest statystycznie oczywisty dla wykrywacza wytrenowanego w jego poszukiwaniu. Google DeepMind wprowadził SynthID w 2023 roku dla obrazów ze swoich modeli Imagen, a później rozszerzył go na dźwięk, wideo i tekst. Wykorzystuje dwie sieci neuronowe: jedna osadza znak, a druga go wykrywa. Zamiast stemplować ustalony wzór, osadzający uczy się, gdzie zmiany będą najmniej widoczne i najbardziej trwałe. Funkcja AudioSeal Meta, opublikowana w 2024 r., łączy generator i detektor i może zlokalizować znacznik na krótkich fragmentach dźwięku, co jest pomocne, gdy syntetyczny klip zostanie połączony z prawdziwym nagraniem. Wcześniejsza praca Meta dotycząca stabilnego podpisu doprowadziła do precyzyjnego dostrojenia dekodera obrazu modelu dyfuzyjnego, tak aby każdy sygnał wyjściowy był oznaczony. Metody akademickie, takie jak Tree-Ring, ukrywają wzór w hałasie początkowym modelu. Wykrywanie jest probabilistyczne. Detektor zgłasza poziom zaufania, a jego projektanci zamieniają fałszywe alarmy na brakujące znaki. Wytrzymałość też ma swoje granice. Znaki są zbudowane tak, aby przetrwać kompresję, zmianę rozmiaru i łagodne filtrowanie, ale zdecydowane ataki mogą je osłabić lub usunąć. Przykłady obejmują regenerację obrazu poprzez model dyfuzji, dodanie szumu kontradyktoryjnego lub zastosowanie intensywnych efektów dźwiękowych. Powszechne są dwa błędne przekonania. Po pierwsze, brak znaku wodnego nie dowodzi, że treść jest prawdziwa. Oznacza to tylko, że nie znaleziono żadnego znaku z tego konkretnego systemu. Po drugie, niewidoczne znaki wodne to nie to samo, co dane uwierzytelniające treści C2PA. Są to podpisane metadane dołączone do pliku i mogą zostać utracone w przypadku ponownego zapisania pliku lub wykonania zrzutu ekranu przez oprogramowanie, które ich nie zachowuje.
Wpływ strategiczny
Szybkość i skala
Wizualna sztuczna inteligencja może automatyzować zadania inspekcji, wykrywania i znakowania na dużą skalę.
Buduj wybory
Zespoły kreatywne mogą szybciej prototypować koncepcje przy mniejszej liczbie ręcznych poprawek.
Zespół i przepływ pracy
Operacje mogą wykorzystywać sygnały obrazu i wideo, które wcześniej były trudne do przetworzenia.
Przyszłość niewidzialnych znaków wodnych dla obrazów i dźwięku AI
Znak wodny prawdopodobnie stanie się jedną z kilku warstw, a nie pełną odpowiedzią. Dostawcy łączą niewidoczne znaki z podpisanymi metadanymi pochodzenia, takimi jak C2PA, a kilka rządów omawia lub przyjmuje przepisy zobowiązujące dostawców sztucznej inteligencji do oznaczania nośników syntetycznych, chociaż wymagania różnią się w zależności od jurysdykcji. Pozostają otwarte problemy. Detektor jednego dostawcy nie jest w stanie odczytać znaków innego dostawcy, modele open source można uruchamiać bez znaku wodnego, a ataki regeneracyjne są stale ulepszane. Spodziewaj się dalszych badań nad znakami, które przetrwają silniejsze edycje, pracuj nad wspólnymi standardami wykrywania i jaśniejszym przekazem publicznym, że brakujący znak wodny nie jest dowodem autentyczności.
Implementacja w świecie rzeczywistym
Dział informacyjny sprawdzający wirusowe zdjęcie przepuszcza je przez moduł sprawdzający oparty na SynthID, aby sprawdzić, czy model obrazu Google go wykonał, i traktuje negatywny wynik jako „nieznany”, a nie „prawdziwy”.
Platforma podcastów skanuje przesłane klipy za pomocą detektora w stylu AudioSeal, aby oznaczyć mowę syntetyczną. Ponieważ detektor może zlokalizować znacznik, wskazuje, które sekundy pliku zostały wygenerowane.
Usługa generowania obrazów umieszcza znak wodny w każdym produkcie już na etapie tworzenia, dzięki czemu późniejsze raporty o nadużyciach można porównać z obrazami własnego modelu.
Badacz w formacie JPEG kompresuje, zmienia rozmiar, przycina i wykonuje zrzuty ekranu obrazów ze znakiem wodnym, a następnie mierzy, jak często detektor nadal uruchamia się, aby określić, gdzie znak ulega uszkodzeniu.
Zagrożenia i poręcze
Prawa do wizerunku i zgoda mogą stanowić ryzyko prawne, jeśli pochodzenie jest niejasne.
Wydajność modelu może się różnić w zależności od oświetlenia, demografii i środowiska.
Fałszywie pozytywne wyniki mogą pozostać niezauważone, chyba że monitorowane są progi ufności.
Plan wdrożenia
Zdefiniuj kryteria akceptacji dotyczące kosztów precyzji, wycofania i błędów.
Przetestuj na danych odpowiadających rzeczywistym warunkom produkcyjnym.
Dodaj weryfikację manualną, aby prognozy były mało pewne lub miały duży wpływ.
Śledź dryf modelu i przeprowadzaj ponowną weryfikację po zmianie kamery lub zbioru danych.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Invisible Watermarks for AI Images and Audio quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Często zadawane pytania
Co to są niewidoczne znaki wodne dla obrazów i dźwięku AI?
Niewidoczne znaki wodne dla obrazów i dźwięku AI to sygnały ukryte bezpośrednio w wartościach pikseli lub falach dźwiękowych. Ludzie ich nie widzą ani nie słyszą, ale pasujący detektor może je znaleźć i oznaczyć treść jako wygenerowaną maszynowo. Systemy takie jak SynthID Google DeepMind i AudioSeal Meta mają znaczenie, ponieważ znak przemieszcza się wraz z treścią, w przeciwieństwie do etykiety metadanych, i jest zaprojektowany tak, aby przetrwać typowe zmiany, takie jak kompresja i kadrowanie.
Czym różnią się niewidoczne znaki wodne obrazu i dźwięku od tekstowego znaku wodnego, z którym zestawia je przewodnik?
Odchylenie tekstowych znaków wodnych, które tokeny wybiera model. Znaki wodne obrazu i dźwięku zmieniają same wartości pikseli lub próbek w ilościach zbyt małych, aby je dostrzec.
Która organizacja opracowała AudioSeal?
AudioSeal został opublikowany przez Meta w 2024 r. Łączy generator i detektor i może zlokalizować znak w krótkich odcinkach dźwięku.
Detektor nie znajduje znaku wodnego na obrazie. Co możesz poprawnie stwierdzić?
Detektory rozpoznają tylko znaki własnego systemu i można je usunąć. Wynik negatywny oznacza „nieznany”, a nie „autentyczny”.
Który atak opisuje w przewodniku jako mogący osłabić lub usunąć znaki wodne na obrazach?
Regeneracja odbudowuje piksele poprzez model dyfuzyjny, który może rozmyć ukryty wzór. Hałas wrogi to kolejny atak, o którym wspomina przewodnik.
Gdzie akademicka metoda Pierścienia Drzewa ukrywa swój znak wodny?
Tree-Ring umieszcza wzór w początkowym szumie, od którego rozpoczyna się model dyfuzji, więc znak jest wbudowany w sam proces generowania.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat