Il prossimoProssima guida
Modelli del linguaggio proteico come ESM
Tecnico
GUIDA TECNICA
Il watermarking incorpora un segnale statistico nascosto nel testo generato dall’intelligenza artificiale in modo che possa essere successivamente rilevato come scritto da una macchina, senza modificare ciò che vede un lettore umano.
Ascolta questa guidaNarrato dall'IA · ~2 min
È importante per individuare su vasta scala la disinformazione, la disonestà accademica e i contenuti di intelligenza artificiale senza etichetta.
Un modello linguistico genera il testo un token alla volta campionando da una distribuzione di probabilità sul vocabolario. Una filigrana altera il campionamento in modo segreto e riproducibile. Nel popolare schema in stile Kirchenbauer, un hash dei token precedenti semina una suddivisione pseudocasuale del vocabolario in una lista verde e una lista rossa, quindi spinge il modello a preferire i token verdi. Il testo umano genuinamente casuale utilizza gettoni verdi e rossi più o meno allo stesso modo, ma il testo con filigrana contiene un surplus statisticamente improbabile di gettoni verdi. Un rilevatore che conosce la chiave segreta ricalcola gli elenchi ed esegue un test statistico, segnalando il testo il cui numero di token verdi è troppo alto per essere casuale. Nessuna chiave segreta è memorizzata nel testo stesso; il segnale risiede nelle scelte dei token.
Google SynthID-Text di DeepMind applica una filigrana invisibile sugli output Gemini in modo che l'azienda possa successivamente identificare il testo prodotto dai propri modelli.
Un'università utilizza un rilevatore di filigrane per filtrare i saggi inviati alla ricerca di passaggi generati dall'intelligenza artificiale, preservandone al tempo stesso la leggibilità per gli studenti.
Una piattaforma di notizie controlla se un flusso di commenti postati porta un segnale di filigrana che indica la generazione coordinata di bot.
Un fornitore di modelli incorpora una filigrana per conformarsi alle norme sulla divulgazione della provenienza che emergono da normative come la legge sull'intelligenza artificiale dell'UE.
Google SynthID-Text di DeepMind ha spostato il watermarking nella produzione e i politici, incluso l'EU AI Act, si aspettano sempre più segnali di provenienza sui contenuti sintetici. La ricerca si sta spingendo verso filigrane robuste alla parafrasi e al ritaglio, filigrane semantiche che sopravvivono alla traduzione e schemi a chiave pubblica in modo che chiunque possa verificarli senza mantenere il segreto che consentirebbe loro di falsificarli. La sfida aperta rimane una corsa agli armamenti: rilevatori più potenti contro attacchi di rimozione a basso costo e la realtà che qualsiasi modello a peso aperto può semplicemente disabilitare il watermarking.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Il watermarking incorpora un segnale statistico nascosto nel testo generato dall’intelligenza artificiale in modo che possa essere successivamente rilevato come scritto da una macchina, senza modificare ciò che vede un lettore umano. È importante per individuare su vasta scala la disinformazione, la disonestà accademica e i contenuti di intelligenza artificiale senza etichetta.
Lo schema suddivide il vocabolario in liste verdi e rosse utilizzando un seme segreto e spinge il modello a preferire i token verdi, lasciando un surplus statistico piuttosto che qualsiasi segno visibile.
La statistica di rilevamento si accumula sui token e cresce con la lunghezza della sequenza, quindi i passaggi brevi non hanno abbastanza surplus di token verdi per superare con sicurezza il caso.
Una funzione pseudocasuale seminata da token precedenti e una chiave segreta divide in modo riproducibile il vocabolario, in modo che il rilevatore possa ricalcolare gli stessi elenchi in seguito.
Parafrasi e traduzioni sostituiscono molte delle scelte dei token filigranati, eliminando il surplus di token verdi accuratamente posizionato su cui fa affidamento il rilevatore.
Un bias più forte produce un segnale più chiaro e robusto, ma allontana il modello dai suoi token preferiti, danneggiando leggermente la fluidità e la diversità.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Modelli del linguaggio proteico come ESM
Tecnico