Mi történt
A OpenAI szerint megzavart egy korábban be nem jelentett titkos befolyásolási kampányt, amely valószínűleg Oroszországból indult ki. Az üzemeltetők a ChatGPT-t használták arra, hogy közösségimédia-bejegyzéseket és válaszokat generáljanak, amelyek az International Burke Institute-ot népszerűsítették, egy olyan szakértői közösséget, amely Izraelben található. A OpenAI szerint a kampány VPN-eket használt, mert szolgáltatásai nem érhetők el Oroszországból.
A OpenAI azt állítja, hogy nemrégiben betiltotta a ChatGPT fiókok egy csoportját, amely valószínűleg Oroszországból származik. Az üzemeltetők oroszul kérték, hogy hozzanak létre megjegyzéseket és bejegyzéseket, amelyek közül sok angol nyelvű, a Substack, a Telegram, az X, a Facebook és a LinkedIn számára. Utasították a ChatGPT-t, hogy rejtsen el olyan nyelvi nyomokat, amelyek felfedhetik az orosz származást, és VPN-eket használtak a szolgáltatás eléréséhez, mert a OpenAI szerint nem engedélyezi a hozzáférést Oroszországból. A keletkezett anyag elsősorban az International Burke Institute-ot, vagyis az IBI-t és annak weboldalát népszerűsítette.
A kampány mesterséges intelligencia tevékenysége a közösségi terjesztésre összpontosult, nem pedig az intézet fő weboldal tartalmának elkészítésére. A OpenAI IBI cikkeket népszerűsítő bejegyzéseket azonosított, beleértve az intézet nevét és logóját használó fiókokból származó bejegyzéseket, valamint olyan fiókokból származó bejegyzéseket, amelyek közönséges felhasználóknak tűntek, de főleg IBI-anyagokat osztottak meg. Az üzemeltetők az IBI-csatornát népszerűsítő valódi Substack-felhasználóknak is válaszoltak. Az egyéb tevékenységek közé tartoztak az Ukrajnát, az Európai Uniót és a német kormányt kritizáló német nyelvű Telegram-bejegyzések, valamint az Oroszországgal való kapcsolatok javítását hirdető bejegyzések. Az egyik szolgáltató mintegy tucatnyi Telegram-csatorna emblémáját generálta, amelyek Németországra, az Egyesült Államokra, Franciaországra, Lengyelországra és Türkiye-re összpontosítottak, míg egy másik szolgáltató orosz nyelvű összefoglalókat kért a csatorna tevékenységéről.
A OpenAI az IBI webhelyet a művelet látszólagos magjaként írja le. Az oldalt 2025 februárjában regisztrálták, és állítólag Izraelben található. A nevezett szakértőkre hivatkozott, 2025 szeptembere és 2026 májusa között megjelent 36 cikk áttekintésében a OpenAI azt állítja, hogy 34 cikket másoltak le máshonnan az internetről. Néhányan évesek voltak, vagy rossz szerzőknek tulajdonították. A forrás példákat ad az eredetileg a Cambridge University Press és a Migration Policy Institute által közzétett anyagokra. Az oldal emellett országjelentéseket is közölt, amelyek egy szuverenitási index köré épültek, amelyek Oroszországot dicsérték, és olyan országokat kritizáltak, mint Franciaország, Németország, az Egyesült Államok és az Európai Unió.
A forrás szerint a kampány legfigyelemreméltóbb jellemzője a mesterséges intelligencia által generált tájékoztatás és a kitalált vagy félrevezető hatósági struktúra kombinációja volt. A weboldal állítólagos szakértőket, újra publikált tudományos munkákat és egy védettnek tűnő indexet használt, hogy a narratívák hitelesebbnek tűnjenek. A OpenAI szerint egyes online nyomok arra utalnak, hogy Izraelben kevés valós személy küldhetett be cikkeket, vagy képviselhette az IBI-t konferenciákon, de ez nem tudja meghatározni kapcsolatukat az orosz szolgáltatókkal vagy a szélesebb körű kampánnyal.
Forrás részletei: openai.com ↗
Miért számít
A művelet megmutatja, hogy a generatív mesterséges intelligencia hogyan tud támogatni egy szélesebb befolyásolási infrastruktúrát ahelyett, hogy a teljes kampányként működne. A fiókklaszter a ChatGPT-t használta promóciós anyagok elkészítéséhez, míg a kampány egy hihetőnek tűnő webhelyre, tudományos munkákra, állítólagos szakértőkre és egy szuverenitási indexre támaszkodott, amelyet Oroszország előnyben részesítésére és a nyugati országok bírálatára terveztek.
Az eset azért jelentős, mert a ChatGPT-t a tekintélyek előállítására irányuló nagyobb erőfeszítések egyik összetevőjeként használták. Az operátoroknak nem volt szükségük a modellre a művelet minden részének létrehozásához. Ismétlődő, adaptálható közösségimédia-tartalmak előállítására használták, amelyek a közönséget egy függetlennek és szakértők által vezetett intézmény felé irányították. Ez a munkamegosztás megnehezítheti a befolyásolási tevékenység azonosítását, ha a nyomozók csak teljesen mesterséges intelligencia által generált webhelyeket vagy nyilvánvaló automatizált fiókokat keresnek.
A OpenAI szerint a művelet közvetlen közönsége korlátozott volt. A tipikus közösségi bejegyzéseket alacsony nézettség érte el, és a hivatalos IBI-fiókoknak alacsony volt a feliratkozók száma. A Telegram csatornák jelentősebbek voltak, általában 10 000-20 000 követőről számoltak be. A Brookings Breakout Scale segítségével a OpenAI a harmadik kategória alsó részén értékelte a működést, ami több platformon végzett tevékenységet jelent, és bizonyos jelek szerint a hiteles közönség felé történő kitörésre utal. Ezek a számok a vállalat értékelései, nem pedig a forrásban bemutatott, függetlenül ellenőrzött mérések.
A tágabb gyakorlati kockázat a jövőbeni használatra létrehozott infrastruktúrában rejlik. Egy hiteles megjelenésű oldal, a témaspecifikus csatornák hálózata, a hozzárendelt cikkek és az aláírási index akkor is elérhető maradhat, ha az egyes bejegyzések alig érhetők el. Az ilyen eszközök újra felhasználhatók, kibővíthetők vagy új narratívák felé irányíthatók. A forrásból nem derül ki, hogy ez a kampány széleskörű meggyőzést ért volna el, vagy megváltoztatta volna a politikai magatartást, ezért jelentőségét nem szabad túlbecsülni. Egy konkrét módszert mutat be a szintetikus tartalomgyártás és a megtévesztő identitásépítés kombinálására.
Az eset egy észlelési kompromisszumot is szemléltet. A OpenAI azt állítja, hogy a vizsgálata mesterséges intelligencia által generált közösségimédia-bejegyzésekkel kezdődött, de kibővült, miután ezek a bejegyzések az IBI webhelyére vezették a nyomozókat, és annak másolt vagy helytelenül feltüntetett anyagait. Ebben a fiókban az AI-használat segített a művelet feltárásában, mivel a generált tartalom megfigyelhető kapcsolatokat hozott létre a fiókok, csatornák és az intézet között. A forrás nem állapítja meg, hogy más platformok vagy kutatók összehasonlítható vizsgálatai ugyanerre az eredményre jutottak-e.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A forrás fontos kérdéseket hagy megválaszolatlanul, beleértve az üzemeltetők kilétét, az intézetet képviselő izraeli emberekkel való kapcsolatukat, a kampány teljes elérhetőségét és azt, hogy használtak-e más mesterséges intelligencia rendszereket. A további ellenőrzésnek arra kell irányulnia, hogy az intézet vagyona, közösségi fiókjai vagy kapcsolódó csatornái megjelennek-e új neveken.
Az első prioritás az, hogy a megszakadt hálózat visszatér-e helyettesítő fiókokon, tartományokon vagy csatornákon keresztül. A OpenAI azt állítja, hogy letiltott egy fiókcsoportot, de a forrás nem állítja, hogy minden kapcsolódó közösségi fiókot, webhelyelemet vagy Telegram-csatornát eltávolítottak. A monitorozásnak ezért nyomon kell követnie az ismétlődő IBI-referenciákat, a szuverenitási indexet, a másolt cikkeket, a megkülönböztető nyelvi mintákat és a jelentésben azonosított országokat felölelő csatornahálózatokat.
Az orosz operátorok és a látszólagos izraeli résztvevők közötti kapcsolat továbbra is központi ismeretlen. A OpenAI szerint egyes online nyomok arra utalnak, hogy Izraelben valós személyek küldhettek be cikkeket vagy jelentek meg konferenciákon, de nem tudja megállapítani, hogy szándékosan vettek-e részt, hamisan ábrázolták-e őket, vagy volt-e bármilyen operatív kapcsolatuk az orosz fiókokkal. Ez a megkülönböztetés fontos a felelősség pontos leírásához, valamint ahhoz, hogy elkerüljük a nem alátámasztott következtetéseket a webhelyen megnevezett személyekről vagy szervezetekről.
A forrás azt sem számszerűsíti, hogy hány bejegyzés keletkezett, mennyi ideig voltak aktívak a ChatGPT fiókok, hány hiteles felhasználó találkozott az anyaggal, vagy hogy az üzemeltetők használtak-e más AI-szolgáltatásokat. Nem számol be semmilyen megerősített politikai reakcióról azokról a közösségi platformokról, ahol a bejegyzések megjelentek. Ezek a hiányosságok korlátozzák azt, amit a művelet mértékéről, koordinációjáról és hatékonyságáról lehet következtetni.
A kutatók és platformok számára az eset rámutat az AI-használat és a nem mesterséges intelligencia eszközök közötti kapcsolatok vizsgálatának értékére. A hasznos indikátorok közé tartozhatnak az ismételt többnyelvű generálás, az üzemeltető származására vonatkozó nyomok elnyomására tett erőfeszítések, ugyanazt az állítólagos intézményt hirdető fiókcsoportok és olyan webhelyek, amelyek a másolt ösztöndíjat kitalált tekintélyi jelzésekkel kombinálják. A forrás ebben az esetben megállapítja ezeket a jellemzőket, de nem állapítja meg, hogy univerzális észlelési szabályt alkotnának, vagy hogy minden hasonló minta állapothoz kötött műveletet tükrözne.