Cosa è successo
OpenAI afferma di aver interrotto una campagna di influenza segreta precedentemente non segnalata che molto probabilmente ha avuto origine in Russia. Gli operatori hanno utilizzato ChatGPT per generare post e risposte sui social media che promuovevano l'International Burke Institute, una comunità di esperti autodefinita che si presentava con sede in Israele. OpenAI afferma che la campagna ha utilizzato VPN perché i suoi servizi non sono disponibili dalla Russia.
OpenAI afferma di aver recentemente vietato un gruppo di account ChatGPT che molto probabilmente hanno avuto origine in Russia. Gli operatori hanno chiesto in russo di generare commenti e post, molti dei quali in inglese, per Substack, Telegram, X, Facebook e LinkedIn. Hanno incaricato ChatGPT di nascondere indizi linguistici che potrebbero rivelare un'origine russa e hanno utilizzato VPN per accedere al servizio perché OpenAI afferma che non consente l'accesso dalla Russia. Il materiale generato promuoveva principalmente l'International Burke Institute, o IBI, e il suo sito web.
L’attività di intelligenza artificiale della campagna si è concentrata sulla distribuzione sui social piuttosto che sulla produzione dei principali contenuti del sito web dell’istituto. OpenAI ha identificato post che promuovevano articoli IBI, inclusi post di account che utilizzavano il nome e il logo dell'istituto e di account che sembravano essere utenti ordinari ma che condividevano principalmente materiale IBI. Gli operatori hanno anche generato risposte agli utenti reali di Substack che hanno promosso il canale IBI. Altre attività includevano post su Telegram in lingua tedesca che criticavano l’Ucraina, l’Unione Europea e il governo tedesco, nonché post che sostenevano migliori relazioni con la Russia. Un operatore ha generato loghi per circa una dozzina di canali Telegram incentrati su Germania, Stati Uniti, Francia, Polonia e Turchia, mentre un altro ha richiesto riepiloghi in lingua russa dell'attività del canale.
OpenAI descrive il sito web dell'IBI come il nucleo apparente dell'operazione. Il sito è stato registrato nel febbraio 2025 e dichiarava di avere sede in Israele. In una revisione di 36 articoli collegati a esperti nominati e pubblicati tra settembre 2025 e maggio 2026, OpenAI afferma che 34 sono stati copiati da altrove online. Alcuni erano vecchi di anni o attribuiti agli autori sbagliati. La fonte fornisce esempi che coinvolgono materiale originariamente pubblicato dalla Cambridge University Press e dal Migration Policy Institute. Il sito ha anche pubblicato rapporti nazionali costruiti attorno a un indice di sovranità che elogiava la Russia e criticava paesi tra cui Francia, Germania, Stati Uniti e Unione Europea.
La fonte afferma che la caratteristica più notevole della campagna è stata la combinazione del raggio d’azione generato dall’intelligenza artificiale con una struttura di autorità fabbricata o fuorviante. Il sito web utilizzava presunti esperti, lavori accademici ripubblicati e un indice dall'aspetto proprietario per rendere le sue narrazioni più credibili. OpenAI afferma che alcune tracce online suggeriscono che un piccolo numero di persone reali in Israele potrebbe aver presentato articoli o rappresentato l'IBI a conferenze, ma non è possibile determinare il loro rapporto con gli operatori russi o con la campagna più ampia.
Dettagli della fonte: openai.com ↗
Perché è importante
L’operazione mostra come l’intelligenza artificiale generativa possa supportare un’infrastruttura di influenza più ampia piuttosto che agire come l’intera campagna. Il cluster di account ha utilizzato ChatGPT per produrre materiale promozionale, mentre la campagna si è basata su un sito web dall’aspetto plausibile, ha copiato lavori accademici, presunti esperti e un indice di sovranità progettato per favorire la Russia e criticare i paesi occidentali.
Il caso è significativo perché ChatGPT è stato utilizzato come componente di uno sforzo più ampio per produrre autorità. Gli operatori non avevano bisogno del modello per creare ogni parte dell'operazione. Lo hanno usato per produrre contenuti di social media ripetuti e adattabili che indirizzavano il pubblico verso un’istituzione progettata per apparire indipendente e guidata da esperti. Questa divisione del lavoro può rendere più difficile identificare l’attività di influenza se gli investigatori cercano solo siti Web completamente generati dall’intelligenza artificiale o account evidentemente automatizzati.
OpenAI afferma che il pubblico immediato dell'operazione sembra essere stato limitato. I tipici post sui social hanno ricevuto un numero basso di visualizzazioni e gli account IBI ufficiali hanno avuto un numero basso di iscritti. I canali Telegram erano più consistenti, riportando generalmente dai 10.000 ai 20.000 follower ciascuno. Utilizzando la Brookings Breakout Scale, OpenAI ha valutato l'operazione all'estremità inferiore della Categoria Tre, ovvero l'attività su più piattaforme con alcune indicazioni di successo verso un pubblico autentico. Tali cifre rappresentano la valutazione dell’azienda, non una misurazione verificata in modo indipendente presentata nella fonte.
Il rischio pratico più ampio risiede nell’infrastruttura creata per un uso futuro. Un sito dall’aspetto credibile, una rete di canali specifici per argomento, articoli attribuiti e un indice delle firme possono rimanere disponibili anche quando i singoli post hanno poca portata. Tali risorse potrebbero essere riutilizzate, ampliate o reindirizzate verso nuove narrazioni. La fonte non dimostra che questa campagna abbia ottenuto un’ampia persuasione o abbia cambiato il comportamento politico, quindi il suo significato non dovrebbe essere sopravvalutato. Mostra un metodo concreto per combinare la produzione di contenuti sintetici con la costruzione di un’identità ingannevole.
Il caso illustra anche un compromesso di rilevamento. OpenAI afferma che la sua indagine è iniziata con post sui social media generati dall'intelligenza artificiale, ma si è ampliata dopo che tali post hanno portato gli investigatori al sito web dell'IBI e al suo materiale copiato o attribuito erroneamente. In questo contesto, l’uso dell’intelligenza artificiale ha contribuito a denunciare l’operazione perché il contenuto generato ha creato collegamenti osservabili tra account, canali e istituto. La fonte non stabilisce se indagini comparabili condotte da altre piattaforme o ricercatori abbiano raggiunto gli stessi risultati.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
La fonte lascia importanti questioni irrisolte, tra cui l’identità degli operatori, il loro rapporto con persone in Israele che potrebbero aver rappresentato l’istituto, la portata totale della campagna e se sono stati utilizzati altri sistemi di intelligenza artificiale. Un ulteriore monitoraggio dovrebbe concentrarsi sulla ricomparsa delle risorse dell’istituto, degli account social o dei canali correlati sotto nuovi nomi.
La prima priorità è se la rete interrotta ritorna attraverso account, domini o canali sostitutivi. OpenAI afferma di aver vietato un gruppo di account, ma la fonte non dice che ogni account social, risorsa del sito Web o canale Telegram associato sia stato rimosso. Il monitoraggio dovrebbe quindi tenere traccia dei riferimenti IBI ricorrenti, dell’indice di sovranità, degli articoli copiati, dei modelli linguistici distintivi e delle reti di canali che abbracciano i paesi identificati nel rapporto.
Il rapporto tra gli operatori russi e gli apparenti partecipanti israeliani rimane un’incognita centrale. OpenAI afferma che alcune tracce online suggeriscono che individui reali in Israele potrebbero aver presentato articoli o essere apparsi a conferenze, ma non è possibile determinare se abbiano partecipato consapevolmente, siano stati travisati o avessero qualche collegamento operativo con i conti russi. Questa distinzione è importante per descrivere accuratamente la responsabilità e per evitare conclusioni non supportate sulle persone o organizzazioni menzionate nel sito.
La fonte inoltre non quantifica quanti post sono stati generati, per quanto tempo sono rimasti attivi gli account ChatGPT, quanti utenti autentici hanno riscontrato il materiale o se gli operatori hanno utilizzato altri servizi di intelligenza artificiale. Non riporta alcuna risposta politica confermata da parte delle piattaforme social in cui sono apparsi i post. Queste lacune limitano le conclusioni che si possono trarre sulla portata, sul coordinamento e sull’efficacia dell’operazione.
Per i ricercatori e le piattaforme, il caso sottolinea l’importanza di esaminare i collegamenti tra l’uso dell’intelligenza artificiale e le risorse non basate sull’intelligenza artificiale. Indicatori utili possono includere la ripetuta generazione multilingue, gli sforzi per eliminare indizi sull’origine di un operatore, gruppi di account che promuovono la stessa presunta istituzione e siti web che combinano studi copiati con segnali di autorità inventati. La fonte stabilisce queste caratteristiche in questo caso, ma non stabilisce che costituiscano una regola di rilevamento universale o che ogni modello simile rifletta un’operazione legata allo stato.