OpenAI розкрила схему російського впливу, що маніпулювала ЧатGPT для поширення проросійської пропаганди
Масштабна операція із створення фейкової експертної спільноти
Компанія OpenAI недавно повідомила про викриття прихованої російської мережі впливу, яка використовувала штучний інтелект ChatGPT для генерації проросійського контенту. Головною дійовою особою цієї кампанії став Міжнародний інститут Берка (International Burke Institute, IBI) – організація, що позиціонувала себе як міжнародна експертна спільнота, заснована у 2025 році і розташована в Ізраїлі.
Завдяки застосуванню ЧатGPT ці «оператори» не лише створювали тексти на користь Кремля, але й робили все можливе, щоби усунути мовні особливості, що могли викрити їхнє реальне походження. Таким чином пости виглядали абсолютно природними і мовби створеними людьми з інших країн.
Як працювала мережа впливу?
OpenAI заблокувала групу акаунтів у ChatGPT, які початково були створені в Росії, аби просувати діяльність IBI у масштабній кампанії впливу. Ці акаунти продукували дописи не лише у ChatGPT, а й на платформах Telegram, X, Facebook, LinkedIn та інших соціальних мережах.
Оператори з Росії ухилялися від блокувань, застосовуючи VPN-сервіси задля приховування свого місцезнаходження та обходу доступних заборон. Їхні маніпуляції охоплювали:
- створення проросійського контенту,
- критичні матеріали про Україну, НАТО, Європейський Союз і Заходу,
- поширення фейкових наукових досліджень та індексів, які ставили Росію у вигідному світлі.
Легітимність під виглядом академії
Набагато цікавішим є те, що мережа не обмежувалась анонімними акаунтами чи простими публікаціями. Вона створила цілу інфраструктуру довкола Міжнародного інституту Берка, який мав вигляд повноцінного дослідницького центру:
- офіційний сайт із професійним дизайном,
- публікації, ніби написані відомими інтелектуалами, включно з Франсісом Фукуямою і Ноамом Хомським,
- різноманітні індекси, що демонстрували перевагу Росії над західними державами.
Проте детальний аналіз показав, що більшість статей (34 з 36) були скопійовані з інших джерел і видані за власні роботи. Наприклад, один матеріал про китайсько-пакистанський економічний коридор був переписаний із публікації Cambridge University Press.
Наслідки та виклики для цифрового простору
Хоча ця операція поки що має обмежений охват у аудиторії, вона є яскравим прикладом того, як ШІ набирає потужності як інструмент політичного впливу. OpenAI підкреслила, що використання генеративного штучного інтелекту дозволяє:
- швидко виробляти великі об’єми контенту,
- маскувати походження авторів,
- створювати ілюзію незалежної і наукової думки.
У зв’язку з цим експерти зазначають критичну важливість удосконалення систем виявлення і блокування таких кампаній на платформах соціальних мереж. І хоча штучний інтелект лишає сліди, що допомагають ідентифікувати підробки, технології докладають зусиль для постійного вдосконалення.
Нова ера цифрової дезінформації напередодні виборів в Ізраїлі
Ізраїльський спостерігач за дезінформацією FakeReporter попереджає, що поява таких технологій стає особливо небезпечною в контексті майбутніх виборів. Використання штучного інтелекту потенційно дозволяє політичним акторам:
- створювати враження авторитетності та довіри,
- штучно формувати громадську думку,
- швидко адаптувати меседжі під потреби різних аудиторій.
Однак існуючі регуляторні механізми та інструменти виявлення навіть досі ледь встигають за технологічним прогресом, що створює додаткові виклики для підтримки прозорого та чесного демократичного процесу.
