DalšíDalší průvodce
Protein Language Models like ESM
Technický
Technický PRŮVODCE
Vodoznak vkládá skrytý statistický signál do textu generovaného umělou inteligencí, takže jej lze později detekovat jako strojově psaný, aniž by se měnilo to, co vidí lidský čtenář.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Je to důležité pro odhalení dezinformací, akademické nepoctivosti a neoznačeného obsahu umělé inteligence.
Jazykový model generuje text po jednom tokenu vzorkováním z rozložení pravděpodobnosti ve slovní zásobě. Vodoznak zkresluje toto vzorkování tajným a reprodukovatelným způsobem. V oblíbeném schématu Kirchenbauerova stylu hash předchozích tokenů zasévá pseudonáhodné rozdělení slovní zásoby na zelený seznam a červený seznam a poté postrčí model, aby preferoval zelené tokeny. Skutečně náhodný lidský text používá zelené a červené žetony přibližně stejně, ale text s vodoznakem obsahuje statisticky nepravděpodobný přebytek zelených žetonů. Detektor, který zná tajný klíč, přepočítá seznamy a spustí statistický test a označí text, jehož počet zelených žetonů je příliš vysoký na to, aby to byla náhoda. V samotném textu není uložen žádný tajný klíč; signál žije ve volbách tokenu.
Google SynthID-Text společnosti DeepMind neviditelně označuje výstupy Gemini, takže společnost může později identifikovat text, který vytvořila vlastní modely.
Univerzita používá detektor vodoznaku k prověřování předložených esejí na pasáže generované umělou inteligencí při zachování čitelnosti pro studenty.
Zpravodajská platforma kontroluje, zda záplava odeslaných komentářů nese signál vodoznaku indikující koordinované generování botů.
Poskytovatel modelu vloží vodoznak, aby vyhověl pravidlům pro zveřejňování provenience vyplývajícím z nařízení, jako je zákon EU o umělé inteligenci.
Google SynthID-Text společnosti DeepMind přesunul vodoznaky do výroby a tvůrci politik včetně zákona EU o umělé inteligenci stále více očekávají signály o původu syntetického obsahu. Výzkum směřuje k vodoznakům odolným vůči parafrázování a ořezávání, sémantickým vodoznakům, které přežijí překlad, a schématům veřejného klíče, takže si je může kdokoli ověřit, aniž by měl tajemství, které by je nechalo padělat. Otevřenou výzvou zůstává závod ve zbrojení: silnější detektory versus levné odstranění útoků a realita, že jakýkoli model s otevřenou váhou může jednoduše deaktivovat vodoznak.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Vodoznak vkládá skrytý statistický signál do textu generovaného umělou inteligencí, takže jej lze později detekovat jako strojově psaný, aniž by se měnilo to, co vidí lidský čtenář. Je to důležité pro odhalení dezinformací, akademické nepoctivosti a neoznačeného obsahu umělé inteligence.
Schéma rozděluje slovní zásobu do zeleného a červeného seznamu pomocí tajného semínka a pobízí model, aby preferoval zelené tokeny, takže spíše než jakoukoli viditelnou značku zanechá statistický přebytek.
Statistika detekce se hromadí přes žetony a roste s délkou sekvence, takže krátké pasáže postrádají dostatek zeleného žetonu, aby s jistotou překonaly náhodu.
Pseudonáhodná funkce nasazená předchozími tokeny a tajným klíčem reprodukovatelně rozděluje slovní zásobu, takže detektor může později přepočítat stejné seznamy.
Parafráze a překlad nahrazují mnoho možností výběru tokenů s vodoznakem, čímž se odstraní pečlivě umístěný přebytek zeleného žetonu, na který detektor spoléhá.
Silnější zkreslení vytváří jasnější a robustnější signál, ale tlačí model pryč od jeho preferovaných tokenů, což mírně poškozuje plynulost a rozmanitost.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Protein Language Models like ESM
Technický