Wat is er gebeurd
Tom’s Hardware meldt dat OpenAI op 25 augustus een cluster van ChatGPT-accounts heeft verboden nadat ze deze hadden gekoppeld aan het International Burke Institute, een nep-Israëlische denktank. OpenAI zei dat de operators VPN's gebruikten om toegang te krijgen tot zijn diensten vanuit Rusland en ChatGPT gebruikten om promotionele berichten en antwoorden te produceren, niet de onderliggende artikelen van de site.
Tom's Hardware meldt dat OpenAI op 25 augustus een cluster van ChatGPT-accounts heeft verboden en de operatie terugvoert naar Rusland. De rekeningen waren gekoppeld aan het International Burke Institute, dat zichzelf presenteerde als een Israëlische denktank. Volgens het rapport publiceerde de website onderzoek naar migratiebeleid toegeschreven aan een Australische professor in de voedingswetenschappen, hanteerde een “soevereiniteitsindex” die Rusland beoordeelde boven landen die kritiek hadden op de oorlog, en hostte we academische artikelen die waren gekopieerd van de oorspronkelijke auteurs. De bron identificeert de exploitanten niet en zegt niet dat ze namens de Russische regering handelden.
De gerapporteerde rol van ChatGPT was voornamelijk operationeel. OpenAI vertelde Tom's Hardware dat de operators de chatbot gebruikten om berichten en antwoorden te schrijven om de outlet te promoten via Substack, Telegram, X, Facebook en LinkedIn. Ze gebruikten het ook om bewoordingen te verwijderen die de Russischtalige achtergrond van de schrijvers zouden kunnen onthullen. OpenAI zei dat de artikelen, landenrapporten en index zelf niet met zijn modellen zijn geproduceerd. Het rapport beschrijft het gebruik in één artikel van ‘de Svetofor-coalitie’, een letterlijke vertaling van het Russische woord voor verkeerslicht, als bewijs dat het niet-AI-materiaal nog steeds taalkundige aanwijzingen over de oorsprong ervan bevatte.
Tom's Hardware meldt dat OpenAI 36 artikelen van het International Burke Institute heeft onderzocht en heeft vastgesteld dat er 34 zijn gekopieerd van echte academici. Sommige werden ten onrechte toegeschreven aan prominente figuren, waaronder Francis Fukuyama en Noam Chomsky. De outlet meldt ook dat OpenAI de campagne aan de onderkant van categorie drie op de Brookings Breakout Scale heeft geclassificeerd. Individuele posts kregen weinig views, terwijl de Telegram-kanalen van de operatie volgens het rapport elk tussen de 10.000 en 20.000 volgers hadden. Deze cijfers beschrijven het onderzochte materiaal, niet het totale bereik of de impact van de bredere operatie.
Brongegevens: tomshardware.com ↗
Waarom het ertoe doet
De case laat zien hoe generatieve AI invloedsoperaties kan ondersteunen door middel van vertaling, redactie, doelgroepgerichtheid en distributie, zelfs als het centrale materiaal door mensen wordt gekopieerd of geschreven. Tom's Hardware meldt dat de campagne een beperkt bereik had, maar dat de infrastructuur breder was dan het publiek.
De zaak is veelbetekenend omdat AI werd gebruikt als een efficiëntie- en distributielaag in een politieke beïnvloedingsoperatie en niet als de oorspronkelijke auteur van de kerninhoud ervan. Tom’s Hardware zegt dat het Intelligence & Investigations-team van OpenAI herhaaldelijk operators heeft gevonden die AI-tools aan bestaande workflows koppelen voor taken als opstellen, redigeren en publieksontwikkeling. Dat onderscheid is van belang: het verwijderen van gegenereerde artikelen uit beeld neemt niet het vermogen van een chatbot weg om een operator te helpen met grotere snelheid een overtuigender of meer gelokaliseerd bereik te bereiken.
De gerapporteerde campagne illustreert ook hoe verzonnen institutionele identiteiten ervoor kunnen zorgen dat gekopieerd materiaal gezaghebbend lijkt. Een denktankformat, benoemde onderzoekers, landenrapporten en een index kunnen lezers meerdere signalen van legitimiteit geven, zelfs als het onderliggende werk verkeerd wordt toegeschreven of zonder toestemming wordt overgenomen. Door AI ondersteunde taalverfijning kan de duidelijke tekenen dat materiaal ergens anders vandaan komt verder verminderen. De bron levert geen bewijs dat de campagne substantiële publieke overtuigingskracht heeft opgeleverd, maar de combinatie van valse branding, gekopieerde wetenschap en platformonafhankelijke promotie creëert een praktisch verificatieprobleem voor lezers en uitgevers.
De handhavingsactie roept ook vragen op over de omvang en transparantie van platformverstoring. Tom’s Hardware meldt dat dit het zesde publieke dreigingsrapport van OpenAI was sinds begin 2024 en dat het bedrijf naar eigen zeggen meer dan 40 kwaadaardige netwerken heeft ontwricht. OpenAI typeerde het belang van de operatie omdat het minder in het publiek lag dan in de infrastructuur die het bouwde. Die beoordeling is echter de mening van het bedrijf. De bron verifieert niet onafhankelijk de accountlinks, de omvang van het netwerk, het gerapporteerde aantal volgers en of de uitgesloten gebruikers extra accounts en websites exploiteerden.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
De bron bevestigt niet onafhankelijk de toeschrijving van OpenAI en stelt niet vast wie de accounts beheerde. Verdere rapportage zou de gekopieerde artikelen moeten onderzoeken, contact moeten opnemen met de betrokken academici en moeten beoordelen of het International Burke Institute actief blijft op sociale platforms.
De eerste prioriteit is onafhankelijke verificatie van het materiaal van het International Burke Institute. De bron identificeert gekopieerd werk en voorbeelden van twijfelachtige toeschrijving, maar bevat geen reacties van de academici wier werk naar verluidt is opgeheven. In vervolgrapportage moet worden vastgesteld welke artikelen zijn gekopieerd, of deze zijn gewijzigd, of er contact is opgenomen met de genoemde wetenschappers en hoe de website hun werk vertegenwoordigt. Het moet ook bevestigd kopiëren onderscheiden van de bredere karakterisering van de operatie door OpenAI.
De status van de bijbehorende distributiekanalen blijft onduidelijk. Tom’s Hardware rapporteert activiteit in Substack, Telegram, X, Facebook en LinkedIn, maar zegt niet of deze accounts of kanalen zijn verwijderd, gelabeld of online zijn gelaten nadat de ChatGPT-accounts waren verbannen. Het rapport geeft ook niet aan hoeveel mensen de campagne buiten de steekproefposts hebben gezien en of materiaal opnieuw is gepubliceerd door niet-gerelateerde gebruikers. Deze onbekenden zijn belangrijk voor het beoordelen van de publieke impact in plaats van simpelweg de omvang van de infrastructuur te meten.
Kijk ten slotte voor meer informatie over het attributie- en handhavingsproces van OpenAI. De bron zegt dat het bedrijf het cluster naar Rusland heeft getraceerd en dat de operators VPN's gebruikten omdat de OpenAI-diensten daar geblokkeerd zijn, maar het beschrijft niet het technische bewijs, het aantal accounts of de precieze timing van hun activiteit. Er wordt ook niet vermeld of de Russische autoriteiten, de vermeende filialen van de denktank of de platforms die het promotiemateriaal aanbieden, hebben gereageerd. Totdat deze vragen zijn beantwoord, moeten de gerapporteerde feiten toegeschreven blijven aan Tom’s Hardware en OpenAI in plaats van behandeld te worden als onafhankelijk vastgesteld.