Cosa è successo
BBC News Chinese riferisce che video generati dall'intelligenza artificiale con esperti medici immaginari stanno circolando tra gli spettatori più anziani di Taiwan. Il rapporto descrive una classe di Taipei in cui gli anziani hanno utilizzato Gemini e ChatGPT per esaminare un video presentato da un presunto medico. Ricercatori ed educatori hanno dichiarato alla BBC che i video sono prodotti a basso costo e su larga scala, spesso combinando volti sintetici, voci e informazioni assemblate dall’intelligenza artificiale. La BBC ha inoltre riscontrato che gli operatori di molti canali non sono pubblicamente identificabili. Le accuse di manipolazione legata alle elezioni rimangono non verificate.
BBC News Chinese riferisce di un asilo nido per anziani di Taipei dove persone di età compresa tra 60 e 90 anni hanno imparato a usare i telefoni e a valutare i video generati dall'intelligenza artificiale. L'articolo si concentra su una in cui un presunto medico chiamato Zheng, che indossa un camice bianco e uno stetoscopio, discute di sarcopenia e afferma che gli alimenti proteici non funzionano più dopo i 60 anni. Un partecipante lo aveva ricevuto e inoltrato. In classe chiese a Gemini e ChatGPT; secondo quanto riferito, gli assistenti hanno affermato che il medico non esisteva e che il video e le informazioni sanitarie erano stati generati o assemblati dall'intelligenza artificiale. La BBC non fornisce in modo indipendente una valutazione clinica né stabilisce l’accuratezza degli assistenti.
L’insegnante di classe, Li Zi-qiang, ha detto alla BBC che i video generati dall’intelligenza artificiale sono circolati ampiamente nelle comunità di anziani e nei gruppi di messaggistica taiwanesi nell’ultimo anno. Nei video vengono utilizzati presentatori virtuali che fingono di essere medici, impiegati delle ferrovie in pensione o ex assistenti di volo. Il FactCheck Center di Taiwan ha dichiarato alla BBC che i canali YouTube di content farm hanno prodotto false affermazioni su salute, benefici per gli anziani e sconti sui trasporti. Gli esempi includono affermazioni inventate secondo cui i passeggeri più anziani potrebbero ricevere automaticamente upgrade alla classe business dei treni ad alta velocità, biglietti gratuiti per gli accompagnatori, regali in denaro o operatori sanitari ospedalieri gratuiti. Gli operatori ferroviari di Taiwan hanno ripetutamente affermato che i presunti benefici per gli anziani e gli sconti nascosti non esistono.
Dai Yu-chen, un ricercatore taiwanese sulla sicurezza informatica, ha dichiarato alla BBC di aver monitorato più di 200 canali YouTube contenenti più di 70.000 video con un totale di 1,32 miliardi di visualizzazioni. Ha stimato che un video potrebbe essere realizzato in circa 20 secondi utilizzando gli strumenti attuali: l’intelligenza artificiale potrebbe creare il volto e lo sfondo di un medico o di un esperto, sincronizzare un file audio con la bocca, assemblare informazioni da materiale online e aggiungere sottotitoli. Queste cifre e stime sono le affermazioni del ricercatore riportate dalla BBC; la fonte non descrive un controllo indipendente dell'elenco dei canali, dei conteggi delle visualizzazioni o del flusso di lavoro.
La BBC afferma di aver esaminato 20 canali con un alto numero di abbonati e di aver riscontrato che i loro operatori non hanno rivelato informazioni identificative utili. Secondo quanto riferito, le località includevano Taiwan, Stati Uniti, Malesia e Hong Kong e alcuni canali erano stati rimossi per aver violato le regole della piattaforma. Una fonte anonima della sicurezza nazionale taiwanese ha affermato che alcuni canali sulla salute e sullo stile di vita si sono trasformati in sostegno politico durante i periodi elettorali. L'accusa non è confermata in modo indipendente e non stabilisce un'operazione coordinata. L’Ufficio cinese per gli affari di Taiwan ha ripetutamente negato le accuse secondo cui la Cina conduce operazioni di influenza contro Taiwan e ha accusato il governo di Taiwan di manipolare l’opinione pubblica.
Dettagli della fonte: bbc.com ↗
Perché è importante
I video possono far apparire autorevoli false affermazioni su salute, welfare e trasporti, e la BBC riferisce che alcuni spettatori hanno agito in base a tali affermazioni. Il materiale sfrutta anche le relazioni sociali di fiducia: gli spettatori più anziani possono guardare lunghi video per informazioni o compagnia e poi inoltrarli agli amici. La portata descritta da un ricercatore di sicurezza informatica taiwanese suggerisce che la disinformazione sintetica può diventare una parte persistente dell’ambiente informativo quotidiano. Il rapporto non stabilisce che i canali facciano parte di un’operazione politica coordinata, ma documenta il motivo per cui tale possibilità sta ricevendo attenzione.
La preoccupazione immediata non è che ogni video sintetico causi danni misurabili, ma che le false affermazioni siano presentate attraverso segnali familiari di autorità. La BBC riferisce che un partecipante alla lezione si è recato in una stazione dell'alta velocità perché un video prometteva un vantaggio che non si è materializzato. L’articolo non riporta alcun danno medico causato dal falso video del medico, ma la disinformazione sanitaria può influenzare le scelte su sintomi, trattamento o dieta. Un presentatore dall’aspetto autorevole e informazioni su misura per le preoccupazioni degli anziani rendono il contenuto più difficile da liquidare come ovvia satira.
L’inoltro non è semplicemente la condivisione di informazioni. Una partecipante di 86 anni ha detto alla BBC di essersi fidata e di aver inoltrato materiale da amici e ora si è sentita ingannata dopo aver appreso che alcuni video erano generati dall’intelligenza artificiale. Un altro partecipante, che trascorreva diverse ore al giorno guardando e ordinando i video prima di inoltrarli ad almeno 50 amici, ha descritto la condivisione come un modo per mantenere la connessione sociale. Uno psichiatra di Taipei ha detto alla BBC che i video sanitari possono rispondere all’ansia legata all’invecchiamento offrendo soluzioni apparentemente attuabili, mentre la trasmissione può fornire compagnia e un senso di essere utili.
La scala cambia il problema. Se le stime del ricercatore sono accurate, un piccolo numero di canali può produrre e distribuire enormi volumi di materiale dall’aspetto plausibile a costi molto bassi. La BBC tratta argomenti quali salute, pensione, scienza, religione e welfare, argomenti strettamente legati alle esigenze quotidiane dei telespettatori più anziani. La società madre di YouTube, Google, ha dichiarato alla BBC che le sue regole si applicano al materiale generato dall’intelligenza artificiale e vietano la disinformazione medica che potrebbe causare gravi danni nel mondo reale. Il rapporto rileva che molti spettatori più anziani non notano le etichette AI attaccate ai video.
Le implicazioni politiche sono significative ma irrisolte. Un medico sintetico o un lavoratore in pensione può costruire credibilità attorno ad argomenti non politici prima che un canale introduca rivendicazioni politiche. La BBC cita uno studio del 2024 sulle pagine relative allo stile di vita e alla salute che attiravano il pubblico taiwanese prima che vi venissero mescolati messaggi politici, ma tale contesto non dimostra che i canali qui siano coordinati. Un esperto di alfabetizzazione digitale ha dichiarato alla BBC che, anche senza un coordinamento dannoso, i video possono funzionare come una trappola dell’intelligenza artificiale: materiale di scarso valore o falso che distoglie l’attenzione e rende più difficile trovare informazioni affidabili. Questo documentato problema di qualità dell’informazione è distinto dall’accusa non dimostrata di controllo politico straniero.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
Le domande chiave sono se le piattaforme possano identificare e limitare grandi volumi di disinformazione sintetica, se le etichette siano visibili ed efficaci per gli spettatori più anziani e se investigatori indipendenti possano verificare i canali, i conteggi di visualizzazioni e i metodi di produzione descritti alla BBC. Il monitoraggio del periodo elettorale richiederà prove relative al coordinamento, alla proprietà, ai finanziamenti e ai cambiamenti nei contenuti piuttosto che solo accuse anonime. I professionisti della sanità pubblica e gli educatori dell’alfabetizzazione mediatica dovranno anche valutare come le persone possano verificare le affermazioni mediche senza considerare un assistente di intelligenza artificiale come l’autorità finale.
La verifica indipendente dovrebbe concentrarsi innanzitutto sulle affermazioni empiriche di base. Gli investigatori dovrebbero pubblicare o documentare l’elenco dei canali, i metodi di campionamento, le date, i calcoli del numero di visualizzazioni e i criteri per determinare se un video è stato generato dall’intelligenza artificiale. La BBC riporta le stime di un ricercatore e la propria revisione di 20 canali, ma non fornisce il set di dati sottostante. Inoltre, non stabilisce quanti spettatori abbiano agito in base ad affermazioni mediche, quanto spesso i video falsi siano consigliati dai sistemi di piattaforma o quanti contenuti provengano da un operatore comune.
L’applicazione della piattaforma è un altro test pratico. Google ha affermato che le stesse regole si applicano ai video generati dall'intelligenza artificiale e che è vietata la disinformazione medica grave, mentre la BBC riferisce che alcuni canali sono stati rimossi. Le incognite includono la coerenza con cui vengono visualizzate le etichette, se i video sintetici vengono demonetizzati, come i sistemi di raccomandazione li trattano e se la rimozione di un canale porta alla rapida sostituzione con altri. Queste domande sono importanti perché il ricercatore ha descritto una rete di canali con profili di account bot simili, ma la fonte non stabilisce in modo indipendente che un'organizzazione li controlli.
Il monitoraggio del periodo elettorale dovrebbe separare i cambiamenti osservabili dei contenuti dalle speculazioni. La fonte anonima relativa alla sicurezza nazionale citata dalla BBC non è confermata in modo indipendente, quindi non dovrebbe essere usata come prova che i canali si siano spostati verso un particolare messaggio politico. Prove più forti includerebbero collegamenti di proprietà trasparenti, ripetuto coordinamento tra canali, risorse di produzione comuni, registrazioni di finanziamenti o cambiamenti documentati nella distribuzione e nella messaggistica. La BBC riferisce che alcuni canali hanno iniziato a discutere se sia preferibile l’unificazione con la Cina, ma la portata, l’origine e il coordinamento di tale contenuto rimangono sconosciuti.
La classe di Taipei offre una risposta concreta: gli spettatori portano video familiari a una lezione, mettono in discussione le loro affermazioni e confrontano i risultati con ciò che già sanno. Questo approccio può aumentare lo scetticismo, ma la BBC non dimostra che Gemini o ChatGPT possano autenticare in modo affidabile un video o convalidare un consiglio medico. La copertura futura dovrebbe monitorare se tali classi modificano il comportamento di inoltro, se i partecipanti consultano fonti mediche o governative autorevoli e come gli educatori affrontano il rischio che un sistema di intelligenza artificiale imperfetto venga utilizzato per controllarne un altro.