OpenAI розкриває масштабну операцію російської мережі “Рибар”, спрямовану на дезінформацію
Компанія OpenAI зробила гучну заяву про припинення діяльності мережі облікових записів, пов’язаних із російським проєктом “Рибар”. Ці акаунти використовували можливості моделей штучного інтелекту для створення скоординованого контенту з метою розповсюдження дезінформації.
Як це працювало: “Рибар” як фабрика контенту
У своєму звіті під назвою “Припинення шкідливого використання наших моделей” від 26 лютого OpenAI детально описала, як були заблоковані численні акаунти ChatGPT, пов’язані з мережею “Рибар”. Хоча частина активності ймовірно походила з Росії, публікації здійснювалися багатьма мовами — російською, англійською та іспанською.
Ось кілька особливостей роботи мережі:
- Створення та розповсюдження постів на різних платформах, серед яких Telegram, X (колишній Twitter) та навіть сайти з інфографікою;
- Використання єдиного запиту для генерації кількох варіантів постів, які публікувались паралельно на різних акаунтах;
- Організація великомасштабного поширення контенту, що нагадувало діяльність контент-ферми.
Плани впливу і сфера діяльності — від Африки до внутрішніх кампаній
Крім генерації контенту, основний акаунт мережі “Рибар” активно експлуатував ChatGPT для:
- Перекладу в англійську мову опису послуг, які вони пропонували потенційним замовникам, включно з веденням акаунтів у X та Telegram і створенням двомовного “журналістського” сайту, орієнтованого на Африку;
- Організації платного розміщення матеріалів у франкомовних ЗМІ та формуванні мережі поширювачів;
- Редагування пропозицій до потенційної команди для втручання у вибори в африканських країнах, що передбачало як онлайн-активності, так і операції на місцях, включно зі створенням агентурної мережі та організацією масштабних подій.
Також було виявлено обговорення інформкампанії, націленої на Демократичну Республіку Конго, запити щодо виборчих процесів у Бурунді та Камеруні. Не оминули увагою й Мадагаскар, де розглядали ідеї розпалювання протестів, а найбільш амбітним проєктом назвали бюджет до 600 тисяч доларів на рік.
Закриття мережі і співпраця для зменшення шкоди
OpenAI підтвердила, що заблокувала всі ChatGPT акаунти, пов’язані із “Рибарем”, позбавивши їх доступу до моделей штучного інтелекту компанії. Крім того, було передано інформаційні індикатори про діяльність для інших технологічних компаній і зацікавлених сторін. Це важливий крок для звуження простору поширення ворожого контенту в мережі.
Цікаво, що раніше повідомляли про використання deepfake-технологій під час відеодзвінків для введення в оману високопоставлених осіб — ще один доказ активного застосування синтетичних медіа в інформаційних війнах та кампаніях соціальної інженерії.
Підтримайте наших фронтових репортерів
Ми висвітлюємо події безпосередньо з місць подій, щоб показати справжнє обличчя війни. Ваша підтримка допомагає нам залишатися в центрі подій і розповідати найважливіші історії.
