LegközelebbKövetkező útmutató
Protein Language Models like ESM
Műszaki
Műszaki ÚTMUTATÓ
A vízjel rejtett statisztikai jelet ágyaz be a mesterséges intelligencia által generált szövegbe, így később géppel írtként észlelhető anélkül, hogy megváltoztatná azt, amit az emberi olvasó lát.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It matters for spotting misinformation, academic dishonesty, and unlabeled AI content at scale.
A nyelvi modell a szókincs valószínűségi eloszlásából mintavételezve állít elő egy-egy tokent szöveget. A vízjel titkos, reprodukálható módon torzítja a mintavételezést. A népszerű Kirchenbauer-stílusú sémában az előző tokenek hash-je a szókincs álvéletlenszerű felosztását zöld listára és piros listára hozza létre, majd a modellt a zöld jelzők előnyben részesítésére ösztönzi. A valóban véletlenszerű emberi szöveg nagyjából egyformán használ zöld és piros jelzőket, de a vízjeles szöveg statisztikailag valószínűtlen több zöld jelzőt tartalmaz. Egy detektor, aki ismeri a titkos kulcsot, újraszámítja a listákat, és lefuttat egy statisztikai tesztet, megjelölve olyan szöveget, amelynek zöld tokenje túl magas ahhoz, hogy véletlen legyen. Magában a szövegben nincs titkos kulcs tárolva; a jel a token-választásokban él.
Google A DeepMind SynthID-Textje láthatatlanul vízjeleket Gemini ad ki, így a vállalat később azonosítani tudja a saját modelljei által készített szöveget.
Egy egyetem vízjeldetektort használ a beküldött esszék AI által generált szövegrészeinek szűrésére, miközben megőrzi a diákok olvashatóságát.
Egy hírplatform ellenőrzi, hogy a közzétett megjegyzések özöne hordoz-e vízjelet, amely az összehangolt botgenerálást jelzi.
A modellszolgáltató vízjelet ágyaz be, hogy megfeleljen a származási hely közzétételére vonatkozó szabályoknak, amelyek olyan szabályozások alapján születnek, mint az EU AI-törvénye.
Google A DeepMind SynthID-Textje áthelyezte a vízjeleket a termelésbe, és a döntéshozók, beleértve az EU AI-törvényt is, egyre inkább elvárják a származási jelzéseket a szintetikus tartalomról. A kutatás olyan vízjelek felé törekszik, amelyek átfogalmazhatók és körbevághatók, szemantikus vízjelek, amelyek túlélik a fordítást, és nyilvános kulcsú sémák, így bárki ellenőrizheti a titkot, amely lehetővé tenné a hamisítást. A nyílt kihívás továbbra is fegyverkezési verseny: erősebb detektorok az olcsó eltávolítási támadásokkal szemben, és a valóság, hogy bármely nyitott súlyú modell egyszerűen letilthatja a vízjelet.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A vízjel rejtett statisztikai jelet ágyaz be a mesterséges intelligencia által generált szövegbe, így később géppel írtként észlelhető anélkül, hogy megváltoztatná azt, amit az emberi olvasó lát. Ez fontos a félretájékoztatás, az akadémiai becstelenség és a címkézetlen mesterségesintelligencia-tartalom széles körű észleléséhez.
A séma felosztja a szókincset zöld és piros listákra egy titkos mag segítségével, és arra ösztönzi a modellt, hogy a zöld tokeneket részesítse előnyben, így inkább statisztikai többletet hagy, mint bármilyen látható nyomot.
Az észlelési statisztika a tokenek felett halmozódik fel, és a szekvencia hosszával növekszik, így a rövid szakaszokban nincs elegendő zöld token többlet ahhoz, hogy magabiztosan meghaladják a esélyt.
Egy pszeudovéletlen függvény, amelyet előző tokenek és egy titkos kulcs reprodukálhatóan felosztja a szókincset, így a detektor később újra ki tudja számítani ugyanazokat a listákat.
A parafrazálás és a fordítás felváltja a vízjelekkel ellátott token sok választását, kimosva a gondosan elhelyezett zöld token-felesleget, amelyre az érzékelő támaszkodik.
Az erősebb torzítás tisztább, robusztusabb jelet ad, de elmozdítja a modellt a preferált tokenektől, ami kissé sérti a folyékonyságot és a sokszínűséget.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Protein Language Models like ESM
Műszaki