DalšíDalší průvodce
Semena a reprodukovatelnost při generování AI obrazu
Vizuální AI
Vizuální průvodce AI
Neviditelné vodoznaky pro obrázky a zvuk AI jsou signály skryté přímo v hodnotách pixelů nebo zvukových vlnách.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Lidé je nevidí ani neslyší, ale odpovídající detektor je může najít a označit obsah jako strojově generovaný. Na systémech, jako je SynthID Google DeepMind a AudioSeal Meta, záleží, protože značka cestuje se samotným obsahem, na rozdíl od štítku metadat, a je navržena tak, aby přežila běžné úpravy, jako je komprese a oříznutí.
Textové vodoznaky fungují tak, že posouvají slova, která jazykový model vybere. Obrázky a zvuk nabízejí jiné plátno: miliony hodnot pixelů nebo desítky tisíc zvukových vzorků za sekundu, z nichž většina se může mírně posunout, aniž by si toho někdo všiml. Tuto mezeru využívá neviditelný vodoznak. Přidává strukturovaný vzor, který sedí hluboko pod tím, co lidé mohou vnímat, ale je statisticky zřejmý pro detektor trénovaný na jeho vyhledávání. Google DeepMind představil SynthID v roce 2023 pro obrázky ze svých modelů Imagen a později jej rozšířil na zvuk, video a text. Využívá dvě neuronové sítě: jedna vloží značku a druhá ji detekuje. Namísto vyražení pevného vzoru se vkládací zařízení naučí, kde budou změny nejméně viditelné a nejodolnější. AudioSeal společnosti Meta, zveřejněné v roce 2024, spojuje generátor a detektor dohromady a dokáže lokalizovat značku až do krátkých úseků zvuku, což pomáhá, když je syntetický klip spojen do skutečné nahrávky. Dřívější práce Stable Signature Meta doladila obrazový dekodér modelu difúze tak, aby každý výstup nesl značku. Akademické metody, jako je Tree-Ring, skrývají vzor ve startovacím hluku modelu. Detekce je pravděpodobná. Detektor hlásí skóre spolehlivosti a jeho konstruktéři vyměňují falešné poplachy proti zmeškaným značkám. I robustnost má své meze. Značky jsou vytvořeny tak, aby přežily kompresi, změnu velikosti a mírné filtrování, ale rozhodné útoky je mohou oslabit nebo odstranit. Mezi příklady patří regenerace obrazu prostřednictvím modelu difúze, přidání nežádoucího šumu nebo použití silných zvukových efektů. Běžné jsou dvě mylné představy. Za prvé, nalezení žádného vodoznaku nedokazuje, že obsah je skutečný. Znamená to pouze, že nebyla nalezena žádná značka z tohoto konkrétního systému. Za druhé, neviditelné vodoznaky nejsou totéž jako přihlašovací údaje k obsahu C2PA. Jsou to podepsaná metadata připojená k souboru a mohou být ztracena, když je soubor znovu uložen nebo pořízen softwarem, který je neuchovává.
Zpravodajský pult, který kontroluje virální fotografii, ji projde kontrolou založenou na SynthID, aby zjistil, zda ji vytvořil model obrázku Google, a považuje negativní výsledek za „neznámý“ spíše než „skutečný“.
Platforma podcastů skenuje nahrané klipy pomocí detektoru ve stylu AudioSeal, aby označila syntetickou řeč. Protože detektor umí značku lokalizovat, ukazuje na které sekundy souboru byly vygenerovány.
Služba generování obrázků vloží vodoznak do každého výstupu v době vytvoření, takže pozdější hlášení o zneužití lze porovnat s obrázky vlastního modelu.
Výzkumník JPEG komprimuje, mění velikost, ořezává a pořizuje snímky obrazovky s vodoznakem, poté měří, jak často detektor stále střílí, aby zmapoval, kde se značka rozpadla.
Vodoznak se pravděpodobně stane jednou vrstvou mezi několika spíše než úplnou odpovědí. Poskytovatelé spárují neviditelné značky s podepsanými metadaty původu, jako je C2PA, a několik vlád diskutuje nebo přijímá pravidla, která po poskytovatelích umělé inteligence vyžadují, aby označovali syntetická média, i když se požadavky liší podle jurisdikce. Otevřené problémy zůstávají. Detektor jednoho dodavatele nemůže číst značky jiného dodavatele, modely s otevřeným zdrojovým kódem lze provozovat zcela bez vodoznaku a regenerační útoky se neustále zlepšují. Očekávejte další výzkum značek, které přežijí silnější úpravy, práci na standardech sdílené detekce a jasnější veřejné sdělení, že chybějící vodoznak není důkazem pravosti.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Neviditelné vodoznaky pro obrázky a zvuk AI jsou signály skryté přímo v hodnotách pixelů nebo zvukových vlnách. Lidé je nevidí ani neslyší, ale odpovídající detektor je může najít a označit obsah jako strojově generovaný. Na systémech, jako je SynthID Google DeepMind a AudioSeal Meta, záleží, protože značka cestuje se samotným obsahem, na rozdíl od štítku metadat, a je navržena tak, aby přežila běžné úpravy, jako je komprese a oříznutí.
Předpojatost textových vodoznaků, které tokeny model zvolí. Obrazové a zvukové vodoznaky mění samotné hodnoty pixelů nebo vzorků o hodnoty příliš malé na to, aby je bylo možné vnímat.
AudioSeal byl publikován Meta v roce 2024. Trénuje generátor a detektor společně a dokáže lokalizovat značku v krátkých úsecích zvuku.
Detektory rozpoznávají pouze značky svého vlastního systému a značky lze odstranit. Negativní výsledek znamená „neznámý“, nikoli „autentický“.
Regenerace obnoví pixely pomocí difúzního modelu, který dokáže vymýt skrytý vzor. Dalším útokem, který průvodce zmiňuje, je hluk protivníka.
Tree-Ring umístí vzor do počátečního šumu, ze kterého vychází model difúze, takže značka je zabudována do samotného procesu generování.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Semena a reprodukovatelnost při generování AI obrazu
Vizuální AI