Какво стана
OpenAI казва, че е прекъснала преди това недекларирана кампания за скрито влияние, която много вероятно е с произход от Русия. Операторите са използвали ChatGPT, за да генерират публикации и отговори в социалните медии, популяризиращи Международния институт Бърк, самоописана експертна общност, която се представя като базирана в Израел. OpenAI казва, че кампанията е използвала VPN, тъй като нейните услуги не са достъпни от Русия.
OpenAI казва, че наскоро е забранил клъстер от ChatGPT акаунти, които много вероятно произхождат от Русия. Операторите подканиха на руски да генерират коментари и публикации, много от които на английски, за Substack, Telegram, X, Facebook и LinkedIn. Те инструктираха ChatGPT да прикрие езикови улики, които биха могли да разкрият руски произход, и използваха VPN за достъп до услугата, тъй като OpenAI казва, че не позволява достъп от Русия. Генерираният материал популяризира предимно Международния институт Бърк, или IBI, и неговия уебсайт.
Дейността на AI на кампанията беше фокусирана върху социалното разпространение, а не върху създаването на основното съдържание на уебсайта на института. OpenAI идентифицира публикации, популяризиращи статии на IBI, включително публикации от акаунти, използващи името и логото на института, и от акаунти, които изглеждат като обикновени потребители, но основно споделят материали на IBI. Операторите също генерираха отговори на реални потребители на Substack, които рекламираха канала на IBI. Друга дейност включва публикации на немски език в Telegram, критикуващи Украйна, Европейския съюз и германското правителство, както и публикации, подкрепящи по-добри отношения с Русия. Един оператор генерира лога за около дузина канали в Telegram, фокусирани върху Германия, Съединените щати, Франция, Полша и Турция, докато друг поиска резюмета на руски език за дейността на канала.
OpenAI описва уебсайта на IBI като очевидното ядро на операцията. Сайтът е регистриран през февруари 2025 г. и се твърди, че е базиран в Израел. В преглед на 36 статии, свързани с посочени експерти и публикувани между септември 2025 г. и май 2026 г., OpenAI казва, че 34 са били копирани от други места онлайн. Някои бяха на години или се приписваха на грешни автори. Източникът дава примери, включващи материали, първоначално публикувани от Cambridge University Press и Института за миграционна политика. Сайтът също така публикува доклади за държави, изградени около индекс на суверенитета, който възхвалява Русия и критикува страни, включително Франция, Германия, Съединените щати и Европейския съюз.
Източникът казва, че най-забележителната характеристика на кампанията е комбинацията от генериран от AI обхват с изфабрикувана или подвеждаща структура на авторитета. Уебсайтът използва предполагаеми експерти, препубликуван академичен труд и изглеждащ патентован индекс, за да направи своите разкази да изглеждат по-достоверни. OpenAI казва, че някои онлайн следи предполагат, че малък брой реални лица в Израел може да са изпратили статии или да са представлявали IBI на конференции, но това не може да определи връзката им с руските оператори или с по-широката кампания.
Детайли за източника: openai.com ↗
Защо има значение
Операцията показва как генеративният AI може да поддържа по-широка инфраструктура за влияние, вместо да действа като цялата кампания. Клъстерът от акаунти използва ChatGPT за създаване на промоционални материали, докато кампанията разчита на правдоподобно изглеждащ уебсайт, копирана академична работа, предполагаеми експерти и индекс на суверенитета, предназначен да облагодетелства Русия и да критикува западните страни.
Случаят е важен, защото ChatGPT беше използван като един от компонентите на по-голямо усилие за създаване на авторитет. Операторите не се нуждаеха от модела, за да създадат всяка част от операцията. Те го използваха, за да създадат повтарящо се адаптивно съдържание в социалните медии, което насочваше публиката към институция, предназначена да изглежда независима и ръководена от експерти. Това разделение на труда може да затрудни идентифицирането на дейността по влияние, ако следователите търсят само уебсайтове, генерирани изцяло от AI, или очевидни автоматизирани акаунти.
OpenAI казва, че непосредствената аудитория на операцията изглежда е била ограничена. Типичните социални публикации получиха малък брой гледания, а официалните акаунти на IBI имаха малък брой абонати. Каналите в Telegram бяха по-значителни, като обикновено отчитаха 10 000 до 20 000 последователи всеки. Използвайки скалата за пробив на Brookings, OpenAI оцени операцията в долния край на трета категория, което означава активност в множество платформи с някои индикации за пробив към автентични аудитории. Тези цифри са оценка на компанията, а не независимо потвърдено измерване, представено в източника.
По-широкият практически риск се крие в инфраструктурата, създадена за бъдеща употреба. Достоверно изглеждащ сайт, мрежа от тематични канали, приписани статии и индекс на подписи могат да останат достъпни дори когато отделните публикации имат малък обхват. Такива активи могат да бъдат използвани повторно, разширени или пренасочени към нови разкази. Източникът не показва, че тази кампания е постигнала широко убеждаване или промяна на политическото поведение, така че нейното значение не трябва да се надценява. Той показва конкретен метод за комбиниране на производството на синтетично съдържание с измамно изграждане на самоличност.
Случаят също илюстрира компромис при откриване. OpenAI казва, че разследването му е започнало с генерирани от AI публикации в социалните медии, но се е разширило, след като тези публикации са довели следователите до уебсайта на IBI и неговите копирани или погрешно приписани материали. В този акаунт използването на AI помогна да се разкрие операцията, тъй като генерираното съдържание създаде видими връзки между акаунти, канали и института. Източникът не установява дали сравними разследвания от други платформи или изследователи са достигнали до същите констатации.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
Източникът оставя важни въпроси неразрешени, включително самоличността на операторите, връзката им с хора в Израел, които може да са представлявали института, общия обхват на кампанията и дали са използвани други AI системи. По-нататъшното наблюдение трябва да се съсредоточи върху това дали активите на института, социалните акаунти или свързаните с тях канали се появяват отново под нови имена.
Първият приоритет е дали прекъснатата мрежа се връща чрез заместващи акаунти, домейни или канали. OpenAI казва, че е забранил клъстер от акаунти, но източникът не казва, че всеки свързан социален акаунт, актив на уебсайт или канал в Telegram е бил премахнат. Следователно мониторингът трябва да проследява повтарящи се препратки към IBI, индекса на суверенитета, копирани статии, отличителни езикови модели и канални мрежи, обхващащи държавите, посочени в доклада.
Връзката между руските оператори и очевидните израелски участници остава основна неизвестна. OpenAI казва, че някои онлайн следи предполагат, че реални лица в Израел може да са изпращали статии или са се появявали на конференции, но не може да определи дали съзнателно са участвали, дали са били представени погрешно или са имали някаква оперативна връзка с руските сметки. Това разграничение има значение за точното описване на отговорността и за избягване на неподкрепени заключения относно хората или организациите, посочени на сайта.
Източникът също така не определя количествено колко публикации са били генерирани, колко време ChatGPT акаунтите са били активни, колко автентични потребители са се сблъскали с материала или дали операторите са използвали други AI услуги. Не се съобщава за потвърден отговор на политиката от социалните платформи, където се появяват публикациите. Тези пропуски ограничават заключенията относно мащаба, координацията и ефективността на операцията.
За изследователите и платформите случаят сочи стойността на изследването на връзките между използването на AI и активите, които не са AI. Полезните индикатори могат да включват повтарящо се многоезично генериране, усилия за потискане на улики за произхода на даден оператор, клъстери от акаунти, популяризиращи една и съща предполагаема институция, и уебсайтове, които комбинират копирани стипендии с измислени авторитетни сигнали. Източникът установява тези функции в този случай, но не установява, че те формират универсално правило за откриване или че всеки подобен модел отразява операция, свързана със състояние.