Cosa è successo
The Verge riferisce che Instagram sta cambiando il modo in cui etichetta i profili con persone generate dall'intelligenza artificiale. La piattaforma rinominerà la sua etichetta “Creatore di intelligenza artificiale” in “Profilo generato dall’intelligenza artificiale” e limiterà la portata degli account che non riescono ad auto-etichettarsi.
The Verge riferisce che Instagram sta rispondendo all'aumento degli account di influencer basati sull'intelligenza artificiale che sono sempre più difficili da distinguere dai profili che rappresentano persone reali. La piattaforma sta rinominando la sua etichetta esistente "Creatore di intelligenza artificiale" in "Profilo generato dall'intelligenza artificiale". Instagram ha affermato, in un post sul blog citato da The Verge, che gli utenti vogliono sapere quando un profilo presenta una persona generata dall'intelligenza artificiale piuttosto che un vero essere umano. La modifica redazionale è intesa a rendere tale distinzione più esplicita. La terminologia riportata descrive quindi l’account stesso, non semplicemente una singola immagine, video o didascalia che potrebbe aver utilizzato uno strumento di intelligenza artificiale.
Secondo The Verge, Instagram cercherà account che presentano profili generati dall'intelligenza artificiale ma non si etichettano. La sanzione denunciata è la riduzione della distribuzione anziché l'esclusione dal servizio. I post provenienti da account contrassegnati da Instagram non verranno consigliati alle persone che non li seguono già in Reels ed Esplora. The Verge riporta inoltre che i proprietari dei profili possono presentare ricorso se Instagram li contrassegna in modo errato. Ciò rende la modifica segnalata una conseguenza distributiva legata alla divulgazione, con l’opzione di ricorso che funge da rimedio dichiarato per un flag errato.
La politica segnalata ha un confine specifico. Instagram ha dichiarato a The Verge che le persone che utilizzano strumenti di intelligenza artificiale per generare contenuti non devono necessariamente aggiungere l'etichetta. L’azione riguarda quindi i profili che presentano una persona generata dall’intelligenza artificiale come soggetto apparente di un account, piuttosto che ogni post che è stato modificato, migliorato o altrimenti realizzato con l’intelligenza artificiale. La fonte non fornisce un programma di implementazione, criteri di rilevamento, esempi di decisioni di applicazione o dati che mostrano quanti account potrebbero essere interessati. In altre parole, il rapporto fornito traccia una linea tra l’identità sintetica e l’uso dell’intelligenza artificiale durante la produzione, lasciando aperti i dettagli di implementazione.
Dettagli della fonte: theverge.com ↗
Perché è importante
La modifica prende di mira personaggi generati dall’intelligenza artificiale che potrebbero sembrare persone reali, ma non crea un filtro generale per i contenuti creati dall’intelligenza artificiale. The Verge riferisce che i post interessati verranno esclusi dai consigli ai non follower in Reels ed Explore, mentre i proprietari potranno presentare ricorso contro decisioni errate.
La modifica affronta una particolare forma di confusione: un account può sembrare un normale profilo personale o di influencer anche quando la persona rappresentata non esiste. The Verge riferisce che la logica di Instagram si basa sul fatto che gli utenti scoprono solo in seguito che un profilo apparentemente umano è stato generato dall'intelligenza artificiale. Un'etichetta visibile a livello di profilo potrebbe fornire agli utenti un contesto importante prima che seguano, condividano o si fidino della presentazione dell'account. Il vantaggio previsto è il contesto nel punto in cui si incontra il profilo, prima che la presentazione del resoconto venga presa per oro colato.
La penalità di copertura cambia anche la posta in gioco pratica per gli operatori dei conti. Se i post vengono esclusi dai consigli ai non follower in Reels ed Esplora, un profilo generato dall'intelligenza artificiale senza etichetta potrebbe avere meno capacità di crescere oltre il pubblico esistente. Ciò è sostanzialmente diverso da un'etichetta che si limita ad aggiungere informazioni lasciando invariata la distribuzione. Allo stesso tempo, The Verge non riporta alcuna politica di cancellazione, sanzione finanziaria o divieto generale sui profili generati dall’intelligenza artificiale. La differenza è importante perché l'esposizione ai consigli è parte del modo in cui un account raggiunge le persone che non hanno scelto di seguirlo.
La politica è limitata in modi che contano per gli utenti che cercano di capire ciò che vedono. The Verge riferisce che i contenuti generati dall’intelligenza artificiale non sempre richiedono l’etichetta del profilo, quindi la modifica non offrirà alle persone un modo completo per identificare o filtrare tutte le immagini, i video o le didascalie create dall’intelligenza artificiale. Lascia inoltre irrisolto il modo in cui Instagram distinguerà una persona completamente sintetica da una persona reale utilizzando gli strumenti di intelligenza artificiale. Il rapporto non stabilisce in modo indipendente quanto accurato sarà il rilevamento di Instagram, quanto spesso potrebbero verificarsi falsi positivi o se la nuova formulazione migliorerà la comprensione dell’utente. Questa limitazione significa che l’etichetta dovrebbe essere letta come un segnale specifico del profilo, non come un resoconto completo degli strumenti utilizzati per creare ogni singolo post.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
Le principali incognite riguardano il modo in cui Instagram identifica un profilo generato dall'intelligenza artificiale, la coerenza con cui applica l'etichetta e raggiunge i limiti e come funzionano i ricorsi. L’effetto della politica dipenderà anche dalla capacità degli utenti di distinguere le persone generate dall’intelligenza artificiale dai profili ordinari e dai contenuti assistiti dall’intelligenza artificiale.
La prima domanda pratica è come Instagram determinerà che un profilo presenta una persona generata dall'intelligenza artificiale. The Verge riporta che Instagram intende cercare account che non si auto-etichettano, ma l'articolo non descrive i segnali, il processo di revisione o la soglia utilizzata per prendere tale decisione. Consulta le linee guida pubblicate, gli esempi di profili segnalati e le prove sul fatto che il sistema si basi sul rilevamento automatico, sulle segnalazioni degli utenti, sulla revisione umana o su una combinazione di metodi. Senza questi dettagli, la fonte stabilisce l’obiettivo pianificato ma non lo standard operativo Instagram che si applicherà nella pratica.
Il processo di appello sarà importante perché la conseguenza segnalata influisce sulla distribuzione piuttosto che sulla sola divulgazione. Instagram afferma che i proprietari possono presentare ricorso quando vengono contrassegnati erroneamente, secondo The Verge, ma la fonte non dice quanto velocemente verranno esaminati i ricorsi, se la portata verrà ripristinata durante la revisione o quali prove i proprietari degli account possono presentare. Tali dettagli determineranno se la politica funziona come misura di trasparenza mirata o crea un rischio sostanziale di soppressione errata. La descrizione disponibile individua quindi un percorso di ricorso senza stabilirne le tutele, i tempi o il probabile esito.
La questione irrisolta più ampia è il confine tra un profilo generato dall’intelligenza artificiale e la normale pubblicazione assistita dall’intelligenza artificiale. La posizione riportata da Instagram è che l’utilizzo degli strumenti di intelligenza artificiale per creare contenuti non richiede di per sé l’etichetta. Controlla se gli utenti possono comprendere in modo affidabile questa distinzione, se Instagram espande l'etichettatura ad altre forme di media sintetici e se i limiti di portata riducono in modo misurabile la diffusione di personaggi AI non divulgati. Il rapporto di The Verge non fornisce ancora una misurazione indipendente dell’efficacia della politica. Tali domande rimangono aperte nel rapporto fornito, che descrive la politica ma non fornisce ancora una valutazione dei risultati.