Як Штучний Інтелект Викрив «Таємну Кампанію» Росії в Соцмережах
Виявлення зловмисної операції через ChatGPT
OpenAI нещодавно повідомила про закриття групи акаунтів ChatGPT, які походили з Росії. Ці облікові записи брали участь у прихованій кампанії впливу, використовуючи штучний інтелект для просування вигаданої аналітичної спільноти — Міжнародного Інституту Берка (IBI), що позиціонувався як ізраїльська експертна структура.
Що саме виявили розслідувачі?
Спочатку підозру викликали дописи в соцмережах, створені за допомогою штучного інтелекту. Однак подальший аналіз показав, що це була частина значно масштабнішої операції:
- Викрадені наукові дослідження, плагіат і помилкове приписування авторства.
- Публікації індексу «суверенітету», який на користь Росії критикував Захід і Європейський Союз.
- Спроби «змити» російське походження авторів через спеціальні мовні налаштування.
Як працювали з акаунтами?
Оператори передавали запити ChatGPT російською мовою, отримуючи англомовні тексти для публікації на популярних платформах, таких як Substack, Telegram, X (Twitter), Facebook і LinkedIn. При цьому вони просили «замаскувати» мовні особливості, здатні видати їхнє реальне походження.
Використання технічних засобів
Для приховування реальної локації використовувалися VPN, оскільки OpenAI не дозволяє використовувати свої моделі безпосередньо з території Росії. Окрім того, більшість матеріалів містила посилання на сайт IBI, що з’явився на початку 2025 року.
Плагіат і сфальсифіковані експертні матеріали
Ретельний аналіз викритих статей показав, що:
- 34 з 36 перевірених текстів були скопійовані з інших джерел.
- Частина статей була неправдиво приписана нібито експертам.
- Деякі матеріали були машинним перекладом зі слов’янських мов.
Індекс суверенітету та геополітичний контекст
«Суверенітетний» індекс IBI захищав Росію, критикуючи при цьому США, Францію, Німеччину та Євросоюз. Окрім англомовних публікацій, один із операторів створював матеріали німецькою мовою, в яких негативно висловлювалися про Україну, ЄС та уряд Німеччини, водночас пропагуючи тісніші зв’язки з Москвою.
Маскування та таргетування аудиторії
Ще один з операторів використовував інструменти штучного інтелекту для створення логотипів приблизно для 12 каналів у Telegram. Ці канали були спрямовані на аудиторію в Німеччині, США, Франції, Польщі та Туреччині.
- Хоча більшість дописів мала низький рівень охоплення, деякі Telegram-спільноти мали від 10,000 до 20,000 підписників.
- Формування імітації авторитетної структури давало змогу з часом нарощувати вплив і приховувати справжнє джерело інформації.
Чому це важливо знати?
Ця справа демонструє, як штучний інтелект можна використовувати для створення масштабних маніпуляцій у мережі, замаскованих під правдоподібні та авторитетні ресурси. Своєю чергою, це підкреслює необхідність пильності у перевірці джерел та обережності щодо контенту, що активно поширюється в соціальних медіа.
Інформація про це розслідування має важливе значення у світі цифрових технологій та гібридних інформаційних війн, де штучний інтелект стає не лише інструментом розвитку, а й потенційним засобом дезінформації.
