Co się stało
OpenAI twierdzi, że zakłóciło to wcześniej niezgłoszoną tajną kampanię wpływów, która najprawdopodobniej rozpoczęła się w Rosji. Operatorzy wykorzystali ChatGPT do generowania postów i odpowiedzi w mediach społecznościowych promujących Międzynarodowy Instytut Burke’a – samozwańczą społeczność ekspertów, która przedstawiała się jako mająca siedzibę w Izraelu. OpenAI twierdzi, że w kampanii wykorzystano VPN, ponieważ jej usługi nie są dostępne w Rosji.
OpenAI twierdzi, że niedawno zablokował klaster kont ChatGPT, które najprawdopodobniej powstały w Rosji. Operatorzy namawiali w języku rosyjskim do generowania komentarzy i postów, wiele z nich w języku angielskim, dla Substack, Telegram, X, Facebook i LinkedIn. Polecili ChatGPT, aby ukrył wskazówki językowe, które mogłyby ujawnić rosyjskie pochodzenie, i wykorzystali VPN, aby uzyskać dostęp do usługi, ponieważ OpenAI twierdzi, że nie pozwala ona na dostęp z Rosji. Wygenerowany materiał promował przede wszystkim Międzynarodowy Instytut Burke’a (IBI) i jego stronę internetową.
Działania AI w ramach kampanii skupiały się na dystrybucji społecznej, a nie na tworzeniu głównej zawartości strony internetowej instytutu. OpenAI zidentyfikował posty promujące artykuły IBI, w tym posty z kont używających nazwy i logo instytutu oraz z kont, które wyglądały na zwykłych użytkowników, ale głównie udostępniały materiały IBI. Operatorzy generowali także odpowiedzi do rzeczywistych użytkowników Substack promujących kanał IBI. Inną aktywnością były niemieckojęzyczne posty na Telegramie krytykujące Ukrainę, Unię Europejską i rząd Niemiec, a także wpisy opowiadające się za lepszymi stosunkami z Rosją. Jeden operator wygenerował logo dla kilkunastu kanałów Telegramu skupiających się na Niemczech, Stanach Zjednoczonych, Francji, Polsce i Turcji, podczas gdy inny zażądał rosyjskojęzycznych podsumowań działalności kanału.
OpenAI opisuje stronę internetową IBI jako oczywisty rdzeń operacji. Witryna została zarejestrowana w lutym 2025 r. i rzekomo miała siedzibę w Izraelu. W przeglądzie 36 artykułów powiązanych z nazwanymi ekspertami i opublikowanych między wrześniem 2025 r. a majem 2026 r. OpenAI podaje, że 34 zostały skopiowane z innego miejsca w Internecie. Niektóre miały wiele lat lub zostały przypisane niewłaściwym autorom. Źródło podaje przykłady materiałów pierwotnie opublikowanych przez Cambridge University Press i Migration Policy Institute. Na stronie opublikowano także raporty krajowe oparte na indeksie suwerenności, w którym chwalono Rosję i krytykowano takie kraje, jak Francję, Niemcy, Stany Zjednoczone i Unię Europejską.
Źródło twierdzi, że najbardziej godną uwagi cechą kampanii było połączenie zasięgu generowanego przez sztuczną inteligencję ze sfabrykowaną lub wprowadzającą w błąd strukturą władzy. Aby uczynić swoje narracje bardziej wiarygodnymi, w witrynie wykorzystano rzekomych ekspertów, ponownie opublikowano prace akademickie i zastrzeżony indeks. OpenAI twierdzi, że niektóre ślady w Internecie sugerują, że niewielka liczba prawdziwych osób w Izraelu mogła przesyłać artykuły lub reprezentować IBI na konferencjach, ale nie może określić ich powiązań z rosyjskimi operatorami ani z szerszą kampanią.
Szczegóły źródła: openai.com ↗
Dlaczego to ma znaczenie
Operacja pokazuje, jak generatywna sztuczna inteligencja może wspierać szerszą infrastrukturę wpływu, a nie działać jak cała kampania. Klaster kont wykorzystywał ChatGPT do tworzenia materiałów promocyjnych, podczas gdy kampania opierała się na wiarygodnie wyglądającej stronie internetowej, kopiowanych pracach akademickich, rzekomych ekspertach i indeksie suwerenności, którego celem było faworyzowanie Rosji i krytykowanie krajów zachodnich.
Sprawa jest istotna, ponieważ ChatGPT został użyty jako jeden z elementów większego wysiłku mającego na celu wyprodukowanie autorytetu. Operatorzy nie potrzebowali modelu do stworzenia każdej części operacji. Wykorzystali go do tworzenia powtarzalnych, elastycznych treści w mediach społecznościowych, które kierowały odbiorców do instytucji zaprojektowanej tak, aby wyglądała na niezależną i kierowaną przez ekspertów. Taki podział pracy może utrudnić identyfikację działań wpływających, jeśli śledczy szukają wyłącznie witryn internetowych w pełni generowanych przez sztuczną inteligencję lub oczywistych zautomatyzowanych kont.
OpenAI twierdzi, że bezpośrednia publiczność operacji wydaje się być ograniczona. Typowe posty w mediach społecznościowych miały niską liczbę wyświetleń, a oficjalne konta IBI miały niską liczbę subskrybentów. Kanały Telegramu były bardziej znaczące i na ogół raportowały od 10 000 do 20 000 obserwujących każdy. Korzystając ze skali Brookings Breakout Scale, OpenAI ocenił operację na dolnym końcu kategorii trzeciej, co oznacza aktywność na wielu platformach z pewnymi oznakami przełamania wśród autentycznych odbiorców. Liczby te stanowią ocenę firmy, a nie niezależnie zweryfikowany pomiar przedstawiony w źródle.
Szersze ryzyko praktyczne wiąże się z infrastrukturą stworzoną do przyszłego wykorzystania. Wiarygodnie wyglądająca witryna, sieć kanałów tematycznych, przypisane artykuły i indeks sygnatur mogą pozostać dostępne nawet wtedy, gdy pojedyncze posty mają niewielki zasięg. Takie zasoby można ponownie wykorzystać, rozszerzyć lub przekierować na nowe narracje. Ze źródła nie wynika, aby kampania ta zyskała szeroką perswazję lub zmieniła zachowania polityczne, dlatego nie należy przeceniać jej znaczenia. Pokazuje konkretną metodę łączenia tworzenia treści syntetycznych ze zwodniczym budowaniem tożsamości.
Przypadek ilustruje również kompromis w zakresie wykrywania. OpenAI twierdzi, że dochodzenie rozpoczęło się od postów w mediach społecznościowych generowanych przez sztuczną inteligencję, ale rozszerzyło się, gdy posty te zaprowadziły śledczych do strony internetowej IBI i znajdujących się na niej skopiowanych lub błędnie przypisanych materiałów. W tym przypadku wykorzystanie sztucznej inteligencji pomogło ujawnić operację, ponieważ wygenerowana treść utworzyła zauważalne powiązania między kontami, kanałami i instytutem. Źródło nie ustala, czy porównywalne badania przeprowadzone przez inne platformy lub badaczy doprowadziły do tych samych wniosków.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Źródło pozostawia nierozwiązanymi ważne pytania, w tym tożsamość operatorów, ich relacje z osobami w Izraelu, które mogły reprezentować instytut, całkowity zasięg kampanii i to, czy wykorzystano inne systemy sztucznej inteligencji. Dalsze monitorowanie powinno koncentrować się na tym, czy aktywa instytutu, konta społecznościowe lub powiązane kanały pojawiają się ponownie pod nowymi nazwami.
Najważniejszym priorytetem jest to, czy zakłócona sieć powróci poprzez zastępcze konta, domeny lub kanały. OpenAI twierdzi, że zablokował grupę kont, ale źródło nie podaje, że każde powiązane konto społecznościowe, zasób strony internetowej lub kanał Telegramu zostało usunięte. Monitorowanie powinno zatem obejmować powtarzające się odniesienia do IBI, indeks suwerenności, kopiowane artykuły, charakterystyczne wzorce językowe i sieci kanałów obejmujące kraje wskazane w raporcie.
Relacje między rosyjskimi operatorami a pozornie izraelskimi uczestnikami pozostają główną niewiadomą. OpenAI twierdzi, że niektóre ślady w Internecie sugerują, że prawdziwe osoby w Izraelu mogły przesyłać artykuły lub pojawiać się na konferencjach, ale nie można ustalić, czy uczestniczyły one świadomie, zostały wprowadzone w błąd lub miały jakiekolwiek powiązania operacyjne z rosyjskimi kontami. To rozróżnienie ma znaczenie dla dokładnego opisu odpowiedzialności i uniknięcia nieuzasadnionych wniosków na temat osób lub organizacji wymienionych w witrynie.
Źródło nie podaje również ilościowo, ile postów wygenerowano, jak długo konta ChatGPT były aktywne, ilu autentycznych użytkowników zetknęło się z materiałem ani czy operatorzy korzystali z innych usług AI. Nie zgłasza żadnej potwierdzonej reakcji politycznej ze strony platform społecznościowych, na których pojawiły się posty. Luki te ograniczają wnioski dotyczące skali, koordynacji i efektywności operacji.
Dla badaczy i platform ten przypadek wskazuje na wartość zbadania powiązań między wykorzystaniem sztucznej inteligencji a zasobami niezwiązanymi ze sztuczną inteligencją. Przydatne wskaźniki mogą obejmować powtarzające się wielojęzyczne generowanie, wysiłki mające na celu zatajenie wskazówek na temat pochodzenia operatora, grupy kont promujących tę samą rzekomą instytucję oraz strony internetowe, które łączą skopiowane publikacje naukowe z wymyślonymi sygnałami autorytetów. Źródło ustala te cechy w tym przypadku, ale nie ustala, że tworzą one uniwersalną regułę wykrywania lub że każdy podobny wzór odzwierciedla operację powiązaną ze stanem.