Що сталося
OpenAI каже, що це зірвало раніше невідому кампанію прихованого впливу, яка, ймовірно, почалася в Росії. Оператори використовували ChatGPT для створення дописів у соціальних мережах і відповідей, які рекламували Міжнародний інститут Берка, експертну спільноту, яку вони самі назвали, яка представила себе як розташована в Ізраїлі. OpenAI каже, що кампанія використовувала VPN, оскільки її послуги недоступні з Росії.
OpenAI каже, що нещодавно заборонив кластер облікових записів ChatGPT, які, ймовірно, походять з Росії. Оператори пропонували генерувати коментарі та пости російською мовою, багато з них англійською, для Substack, Telegram, X, Facebook і LinkedIn. Вони доручили ChatGPT приховати лінгвістичні підказки, які могли б виявити російське походження, і використовували VPN для доступу до служби, оскільки OpenAI каже, що не дозволяє доступ з Росії. Згенерований матеріал насамперед рекламував Міжнародний інститут Берка (IBI) та його веб-сайт.
Діяльність кампанії зі штучним інтелектом була зосереджена на соціальному розповсюдженні, а не на створенні основного вмісту веб-сайту інституту. OpenAI визначив публікації, що рекламують статті IBI, включно з публікаціями з облікових записів, які використовують ім’я та логотип інституту, а також з облікових записів, які виглядали звичайними користувачами, але в основному ділилися матеріалами IBI. Оператори також генерували відповіді реальним користувачам Substack, які рекламували канал IBI. Інша активність включала німецькомовні дописи в Telegram з критикою України, Європейського Союзу та уряду Німеччини, а також дописи, що виступають за покращення відносин з Росією. Один оператор створив логотипи для близько десятка каналів Telegram, зосереджених на Німеччині, США, Франції, Польщі та Туреччині, а інший запросив російськомовні підсумки діяльності каналу.
OpenAI описує веб-сайт IBI як очевидне ядро операції. Сайт був зареєстрований у лютому 2025 року і, як стверджується, розташований в Ізраїлі. В огляді 36 статей, пов’язаних із названими експертами та опублікованих у період з вересня 2025 року по травень 2026 року, OpenAI каже, що 34 були скопійовані з інших місць в Інтернеті. Деяким було багато років або вони приписувалися не тим авторам. Джерело наводить приклади матеріалів, спочатку опублікованих Cambridge University Press та Інститутом міграційної політики. Сайт також публікував звіти по країнах, побудовані на основі індексу суверенітету, в якому хвалили Росію та критикували країни, зокрема Францію, Німеччину, Сполучені Штати та Європейський Союз.
Джерело каже, що найпомітнішою особливістю кампанії було поєднання охоплення, створеного штучним інтелектом, із сфабрикованою або оманливою структурою влади. Веб-сайт використовував передбачуваних експертів, перепублікував наукові роботи та запатентований індекс, щоб зробити його розповіді більш достовірними. OpenAI каже, що деякі дані в Інтернеті свідчать про те, що невелика кількість реальних людей в Ізраїлі, можливо, надсилали статті або представляли IBI на конференціях, але це не може визначити їхні стосунки з російськими операторами чи з більш широкою кампанією.
Чому це важливо
Операція показує, як генеративний штучний інтелект може підтримувати ширшу інфраструктуру впливу, а не діяти як вся кампанія. Кластер облікових записів використовував ChatGPT для створення рекламних матеріалів, тоді як кампанія покладалася на правдоподібний веб-сайт, скопійовані наукові роботи, нібито експертів та індекс суверенітету, призначений для підтримки Росії та критики західних країн.
Цей випадок важливий, оскільки ChatGPT використовувався як один із компонентів більшої спроби створити авторитет. Операторам не потрібна була модель для створення кожної частини операції. Вони використовували його для створення повторюваного, адаптованого контенту соціальних медіа, який спрямовував аудиторію до установи, створеної так, щоб вона виглядала незалежною та керованою експертами. Такий розподіл праці може ускладнити виявлення впливу, якщо дослідники шукатимуть лише веб-сайти, повністю створені ШІ, або очевидні автоматизовані облікові записи.
OpenAI каже, що безпосередня аудиторія операції, здається, була обмеженою. Типові пости в соціальних мережах отримували низьку кількість переглядів, а офіційні облікові записи IBI мали низьку кількість підписників. Канали Telegram були більш значними, загалом повідомляючи про 10 000-20 000 підписників на кожен. Використовуючи шкалу прориву Брукінгса, OpenAI оцінив операцію за нижньою межею третьої категорії, що означає активність на кількох платформах з деякими ознаками прориву до автентичної аудиторії. Ці цифри є оцінкою компанії, а не незалежно перевіреними вимірюваннями, представленими в джерелі.
Більш широкий практичний ризик полягає в інфраструктурі, створеній для майбутнього використання. Надійний на вигляд сайт, мережа тематичних каналів, статті з атрибутами та покажчик підпису можуть залишатися доступними, навіть якщо окремі публікації мало охоплені. Такі активи можна повторно використовувати, розширювати або перенаправляти на нові наративи. Джерело не показує, що ця кампанія досягла широкого переконання або змінила політичну поведінку, тому її значення не слід переоцінювати. Це показує конкретний метод поєднання виробництва синтетичного контенту з оманливим формуванням особистості.
Випадок також ілюструє компроміс виявлення. OpenAI каже, що розслідування почалося з дописів у соціальних мережах, створених штучним інтелектом, але розширилося після того, як ці дописи привели дослідників до веб-сайту IBI та його скопійованих або неправильно присвоєних матеріалів. У цьому обліковому записі використання штучного інтелекту допомогло викрити операцію, оскільки створений контент створив видимі зв’язки між обліковими записами, каналами та інститутом. Джерело не встановлює, чи порівняльні дослідження, проведені іншими платформами або дослідниками, дійшли таких самих висновків.
Інтерактивний механізм: як він насправді працює
Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Що дивитися далі
Джерело залишає невирішеними важливі питання, зокрема особи операторів, їхні стосунки з людьми в Ізраїлі, які могли представляти інститут, загальне охоплення кампанії та чи використовувалися інші системи ШІ. Подальший моніторинг має бути зосереджений на тому, чи активи інституту, соціальні облікові записи чи пов’язані канали знову з’являються під новими назвами.
Першим пріоритетом є те, чи повернеться порушена мережа через заміну облікових записів, доменів або каналів. OpenAI каже, що заборонив кластер облікових записів, але джерело не повідомляє, що всі пов’язані соціальні облікові записи, веб-сайти чи канали Telegram були видалені. Таким чином, моніторинг повинен відстежувати повторювані посилання на IBI, індекс суверенітету, скопійовані статті, характерні мовні моделі та мережі каналів, що охоплюють країни, визначені у звіті.
Відносини між російськими операторами та ймовірними ізраїльськими учасниками залишаються головним невідомим. OpenAI каже, що деякі дані в Інтернеті свідчать про те, що реальні особи в Ізраїлі могли надсилати статті або з’являтися на конференціях, але він не може визначити, чи брали вони свідому участь, чи були вони неправильно представлені, чи мали будь-який оперативний зв’язок із російськими акаунтами. Це розрізнення має значення для точного опису відповідальності та для уникнення необґрунтованих висновків щодо людей чи організацій, названих на сайті.
Джерело також не вказує, скільки публікацій було згенеровано, як довго облікові записи ChatGPT були активними, скільки справжніх користувачів стикалися з матеріалом або чи використовували оператори інші служби ШІ. У ньому не повідомляється про жодну підтверджену відповідь політики з соціальних платформ, де з’явилися публікації. Ці прогалини обмежують те, що можна зробити про масштаби, координацію та ефективність операції.
Для дослідників і платформ цей випадок вказує на цінність вивчення зв’язків між використанням штучного інтелекту та активами, що не є штучним інтелектом. Корисні показники можуть включати повторювану багатомовну генерацію, спроби приховати підказки про походження оператора, кластери облікових записів, що рекламують ту саму передбачувану установу, і веб-сайти, які поєднують скопійовану наукову інформацію з вигаданими авторитетними сигналами. Джерело встановлює ці особливості в цьому випадку, але не встановлює, що вони утворюють універсальне правило виявлення або що кожен подібний шаблон відображає операцію, пов’язану зі станом.