Il prossimoProssima guida
Norme IT dell'India sui deepfake e sulle etichette di contenuti sintetici
Società
GUIDA della Società
Le etichette di contenuto AI sono avvisi, come il tag "AI info" di Meta o l'etichetta di contenuto alterato o sintetico di YouTube, che le piattaforme allegano ai post creati o modificati in modo significativo con l'intelligenza artificiale generativa.
Ascolta questa guidaNarrato dall'IA · ~3 min
Vengono attivati dalla divulgazione dello stesso creatore o da segnali che la piattaforma rileva nel file. Sono importanti perché rappresentano il modo principale in cui il pubblico apprende che un'immagine, un video o una voce realistica potrebbero non essere reali, ma dipendono dai metadati e dall'onestà del creatore, entrambi facili da perdere.
Le piattaforme etichettano i contenuti AI in due modi: autodivulgazione del creatore e rilevamento automatizzato. Il rilevamento automatico legge principalmente i segnali lasciati dagli strumenti che hanno creato il contenuto. Uno sono i metadati, come le credenziali del contenuto C2PA e il campo del tipo di origine digitale IPTC, che possono registrare che un'immagine è stata generata o modificata dall'intelligenza artificiale. Un altro sono le filigrane invisibili, come SynthID di Google, incorporate nei pixel o nell'audio. Le piattaforme fanno meno affidamento sui classificatori che indovinano dal contenuto stesso, perché questi commettono più errori. Meta ha iniziato a etichettare le immagini AI su Facebook, Instagram e Threads nel 2024 con il tag "Made with AI". I fotografi si sono lamentati del fatto che piccole modifiche assistite dall'intelligenza artificiale lo hanno attivato su foto reali, quindi Meta l'ha ribattezzato "Informazioni AI" e ha spostato l'etichetta in un menu per contenuti leggermente modificati. YouTube richiede agli autori di divulgare contenuti realistici alterati o sintetici, ad esempio una persona reale che sembra dire qualcosa che non hanno detto. Non richiede la divulgazione di contenuti chiaramente irrealistici, filtri di bellezza o intelligenza artificiale utilizzata solo per attività come lo scripting. L’etichetta è più prominente per argomenti delicati come elezioni, salute e notizie. TikTok richiede ai creatori di etichettare contenuti AI realistici e nel 2024 ha iniziato a leggere le credenziali dei contenuti per etichettare automaticamente alcuni caricamenti. Google e Meta richiedono inoltre la divulgazione negli annunci politici che contengono contenuti sintetici realistici. I creatori che infrangono queste regole possono essere soggetti a rimozione o sanzioni dei contenuti. Le lacune sono gravi. Schermate, ricodifica e molte app di modifica rimuovono i metadati. Molti modelli a peso aperto non aggiungono filigrana. Le regole differiscono da piattaforma a piattaforma. Anche il pubblico ha letto male le etichette. Un'etichetta su una foto reale con una piccola modifica può suggerire che sia falsa e l'assenza di un'etichetta non dimostra che il contenuto sia reale.
Uno YouTuber che ha utilizzato una voce clonata per narrare una rievocazione realistica seleziona la divulgazione del contenuto alterato o sintetico in YouTube Studio durante il caricamento.
Un fotografo rimuove un oggetto vagante con uno strumento di riempimento generativo e Instagram aggiunge automaticamente un'etichetta informativa AI perché il software di editing ha scritto i metadati AI nel file.
Un creatore TikTok carica un video da uno strumento che allega credenziali di contenuto e TikTok lo etichetta come generato dall'intelligenza artificiale senza che il creatore faccia nulla.
Un altro account ripubblica uno screenshot di un'immagine AI. Lo screenshot non contiene metadati, quindi non viene visualizzata alcuna etichetta automatica, il che mostra una delle principali lacune nell'applicazione della normativa.
La regolamentazione sta aggiungendo pressione. L’articolo 50 della legge sull’intelligenza artificiale dell’UE stabilisce obblighi di trasparenza, tra cui la marcatura a lettura ottica dei risultati sintetici da parte dei fornitori e la divulgazione di deepfake da parte degli utilizzatori, e questi obblighi dovrebbero applicarsi a partire dall’agosto 2026, sebbene i legislatori dell’UE abbiano discusso periodi di transizione per alcuni sistemi esistenti. Diverse giurisdizioni hanno inoltre approvato norme sui contenuti ingannevoli dell’IA durante le elezioni. Sempre più fotocamere, telefoni e strumenti di editing stanno adottando le credenziali di contenuto, che potrebbero rendere l'etichettatura più coerente. Alcuni nel settore sostengono la necessità di verificare i contenuti autentici e di segnalare i contenuti sintetici, perché il rilevamento non riuscirà mai a individuare tutto. Resta incerto il modo in cui le piattaforme applicano le proprie regole e se il pubblico arriva a capire cosa significano le etichette.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Le etichette di contenuto AI sono avvisi, come il tag "AI info" di Meta o l'etichetta di contenuto alterato o sintetico di YouTube, che le piattaforme allegano ai post creati o modificati in modo significativo con l'intelligenza artificiale generativa. Vengono attivati dalla divulgazione dello stesso creatore o da segnali che la piattaforma rileva nel file. Sono importanti perché rappresentano il modo principale in cui il pubblico apprende che un'immagine, un video o una voce realistica potrebbero non essere reali, ma dipendono dai metadati e dall'onestà del creatore, entrambi facili da perdere.
Piccole modifiche apportate con gli strumenti AI facevano sì che le foto reali venissero etichettate come "Made with AI". La dicitura più morbida "Informazioni AI" e il posizionamento del menu per modifiche leggere avevano lo scopo di risolvere questo problema.
La regola di YouTube prende di mira contenuti realistici che potrebbero fuorviare gli spettatori. Sono esclusi i contenuti non realistici, i filtri di bellezza e l'intelligenza artificiale utilizzata solo per attività di produzione.
L'etichettatura automatizzata legge principalmente i segnali di origine lasciati dallo strumento di creazione, ovvero metadati e filigrane, invece di fare affidamento su classificatori soggetti a errori.
Il rilevamento basato sui metadati dipende dal file che trasporta i dati di origine. Gli screenshot e la ricodifica lo rilasciano, quindi nessun segnale raggiunge la piattaforma.
"trainedAlgorithmicMedia" indica il contenuto completamente generato. 'compositeWithTrainedAlgorithmicMedia' contrassegna i compositi che includono elementi generati.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Norme IT dell'India sui deepfake e sulle etichette di contenuti sintetici
Società