Vad hände
OpenAI säger att det störde en tidigare orapporterad hemlig påverkanskampanj som med stor sannolikhet har sitt ursprung i Ryssland. Operatörer använde ChatGPT för att skapa inlägg och svar på sociala medier som främjade International Burke Institute, en självbeskriven expertgemenskap som presenterade sig som baserad i Israel. OpenAI säger att kampanjen använde VPN eftersom dess tjänster inte är tillgängliga från Ryssland.
OpenAI säger att det nyligen förbjöd ett kluster av ChatGPT-konton som med stor sannolikhet har sitt ursprung i Ryssland. Operatörerna uppmanade på ryska att generera kommentarer och inlägg, många av dem på engelska, för Substack, Telegram, X, Facebook och LinkedIn. De instruerade ChatGPT att dölja språkliga ledtrådar som kunde avslöja ett ryskt ursprung, och använde VPN för att komma åt tjänsten eftersom OpenAI säger att den inte tillåter åtkomst från Ryssland. Det genererade materialet främjade främst International Burke Institute, eller IBI, och dess webbplats.
Kampanjens AI-aktivitet var fokuserad på social distribution snarare än på att producera institutets huvudsakliga webbplatsinnehåll. OpenAI identifierade inlägg som marknadsför IBI-artiklar, inklusive inlägg från konton som använder institutets namn och logotyp och från konton som verkade vara vanliga användare men som huvudsakligen delade IBI-material. Operatörer genererade också svar till riktiga Substack-användare som marknadsförde IBI-kanalen. Andra aktiviteter inkluderade tyskspråkiga Telegram-inlägg som kritiserade Ukraina, Europeiska unionen och den tyska regeringen, samt inlägg som förespråkade bättre förbindelser med Ryssland. En operatör skapade logotyper för ett dussintal Telegram-kanaler fokuserade på Tyskland, USA, Frankrike, Polen och Türkiye, medan en annan begärde ryskspråkiga sammanfattningar av kanalaktivitet.
OpenAI beskriver IBI-webbplatsen som den uppenbara kärnan i verksamheten. Webbplatsen registrerades i februari 2025 och påstods vara baserad i Israel. I en recension av 36 artiklar kopplade till namngivna experter och publicerade mellan september 2025 och maj 2026, säger OpenAI att 34 kopierades från någon annanstans online. Vissa var år gamla eller tillskrivna fel författare. Källan ger exempel på material som ursprungligen publicerats av Cambridge University Press och Migration Policy Institute. Webbplatsen publicerade också landrapporter byggda kring ett suveränitetsindex som hyllade Ryssland och kritiserade länder inklusive Frankrike, Tyskland, USA och EU.
Källan säger att kampanjens mest anmärkningsvärda egenskap var kombinationen av AI-genererad uppsökande verksamhet med en påhittad eller vilseledande auktoritetsstruktur. Webbplatsen använde påstådda experter, återpublicerade akademiskt arbete och ett proprietärt utseende index för att få dess berättelser att framstå som mer trovärdiga. OpenAI säger att vissa onlinespår tyder på att ett litet antal verkliga individer i Israel kan ha skickat in artiklar eller representerat IBI på konferenser, men det kan inte avgöra deras relation till de ryska operatörerna eller med den bredare kampanjen.
Varför det spelar roll
Operationen visar hur generativ AI kan stödja en bredare påverkansinfrastruktur snarare än att fungera som hela kampanjen. Kontoklustret använde ChatGPT för att producera reklammaterial, medan kampanjen förlitade sig på en webbplats som såg trovärdig ut, kopierade akademiskt arbete, påstådda experter och ett suveränitetsindex utformat för att gynna Ryssland och kritisera västländer.
Fallet är betydelsefullt eftersom ChatGPT användes som en komponent i en större ansträngning för att tillverka auktoritet. Operatörerna behövde inte modellen för att skapa alla delar av verksamheten. De använde det för att producera upprepat, anpassningsbart innehåll på sociala medier som riktade publiken mot en institution utformad för att se oberoende och expertledd ut. Den arbetsfördelningen kan göra påverkansaktivitet svårare att identifiera om utredarna bara letar efter helt AI-genererade webbplatser eller uppenbara automatiserade konton.
OpenAI säger att operationens omedelbara publik verkar ha varit begränsad. Typiska sociala inlägg fick ett lågt antal visningar, och officiella IBI-konton hade lågt antal prenumeranter. Telegramkanalerna var mer omfattande och rapporterade i allmänhet 10 000 till 20 000 följare var. Med hjälp av Brookings Breakout Scale bedömde OpenAI operationen i den nedre delen av kategori tre, vilket innebär aktivitet på flera plattformar med vissa indikationer på utbrott till autentiska publiker. Dessa siffror är företagets bedömning, inte ett oberoende verifierat mått som presenteras i källan.
Den bredare praktiska risken ligger i den infrastruktur som skapas för framtida användning. En webbplats som ser trovärdig ut, ett nätverk av ämnesspecifika kanaler, tillskrivna artiklar och ett signaturindex kan förbli tillgängliga även när enskilda inlägg har liten räckvidd. Sådana tillgångar kan återanvändas, utökas eller omdirigeras mot nya berättelser. Källan visar inte att denna kampanj uppnådde bred övertalning eller förändrat politiskt beteende, så dess betydelse ska inte överskattas. Den visar en konkret metod för att kombinera produktion av syntetiskt innehåll med bedrägligt identitetsbyggande.
Fallet illustrerar också en detektionsavvägning. OpenAI säger att dess undersökning började med AI-genererade inlägg på sociala medier men utökades efter att dessa inlägg ledde utredarna till IBI:s webbplats och dess kopierade eller felaktigt tillskrivna material. I det kontot hjälpte AI-användning att exponera operationen eftersom det genererade innehållet skapade observerbara länkar mellan konton, kanaler och institutet. Källan fastställer inte om jämförbara undersökningar från andra plattformar eller forskare nådde samma resultat.
Interaktiv mekanism: hur det faktiskt fungerar
Utforska den underliggande tekniken bakom denna utveckling interaktivt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Vad du ska titta på härnäst
Källan lämnar viktiga frågor olösta, inklusive operatörernas identitet, deras relation till människor i Israel som kan ha representerat institutet, kampanjens totala räckvidd och om andra AI-system användes. Ytterligare övervakning bör fokusera på om institutets tillgångar, sociala konton eller relaterade kanaler återkommer under nya namn.
Den första prioriteringen är om det störda nätverket kommer tillbaka via ersättningskonton, domäner eller kanaler. OpenAI säger att det förbjöd ett kluster av konton, men källan säger inte att alla associerade sociala konton, webbplatstillgångar eller Telegram-kanaler togs bort. Övervakning bör därför spåra återkommande IBI-referenser, suveränitetsindex, kopierade artiklar, distinkta språkmönster och kanalnätverk som spänner över de länder som identifieras i rapporten.
Relationen mellan de ryska operatörerna och de uppenbara israeliska deltagarna är fortfarande en central okänd. OpenAI säger att vissa spår på nätet tyder på att verkliga individer i Israel kan ha skickat in artiklar eller dykt upp på konferenser, men det kan inte avgöra om de medvetet deltog, var felaktigt framställda eller hade någon operativ koppling till de ryska kontona. Den distinktionen är viktig för att korrekt beskriva ansvar och för att undvika slutsatser som inte stöds om de personer eller organisationer som nämns på webbplatsen.
Källan kvantifierar inte heller hur många inlägg som genererades, hur länge ChatGPT-kontona var aktiva, hur många autentiska användare som stötte på materialet eller om operatörerna använde andra AI-tjänster. Den rapporterar inga bekräftade policysvar från de sociala plattformarna där inläggen dök upp. Dessa luckor begränsar vad som kan dras om verksamhetens omfattning, samordning och effektivitet.
För forskare och plattformar pekar fallet på värdet av att undersöka sambanden mellan AI-användning och icke-AI-tillgångar. Användbara indikatorer kan inkludera upprepad flerspråkig generering, försök att undertrycka ledtrådar om en operatörs ursprung, kluster av konton som främjar samma påstådda institution och webbplatser som kombinerar kopierat stipendium med påhittade auktoritetssignaler. Källan fastställer dessa egenskaper i det här fallet, men den fastställer inte att de utgör en universell detekteringsregel eller att varje liknande mönster återspeglar en tillståndsbunden operation.