Російська мережа використала ChatGPT для популяризації сумнівного “академічного” інституту
Згідно з доповіддю OpenAI, оприлюдненою в середу, одна мережа, пов’язана з Росією, залучила ChatGPT для просування організації, яка видавала себе за академічний інститут.
Блокування облікових записів і маніпуляції з контентом
OpenAI повідомила про заборону групи акаунтів, оператори яких використовували російськомовні запити для створення публікацій та коментарів у соцмережах, переважно англійською мовою. Вони також наказували ChatGPT маскувати сліди російського походження матеріалів.
Попри те, що кампанія охопила відносно невелику аудиторію, її складність вигідно вирізняє цю операцію серед інших підривних дій, пов’язаних з Росією, котрі OpenAI виявила з початку війни в Україні.
Як росіяни обходили обмеження
Через блокування ChatGPT в Росії, група вдавалася до використання VPN, щоб приховати своє розташування та мати доступ до сервісу. Такий таємний підхід дозволив їм створювати та поширювати контент, який виглядав цілком легітимно.
Міжнародний “буркський інститут”: вигаданий чи реальний?
Зловмисники використовували ChatGPT для просування так званого International Burke Institute – організації, що позиціонувала себе як ізраїльську експертну структуру. Вони створювали офіційні профілі та профілі “звичайних користувачів”, щоб посилити довіру.
Результати аудиту OpenAI викрили, що 34 з 36 статей на сайті інституту були скопійовані, і часто авторство неправильно приписувалися вченим, які до написання не мали стосунку.
- Декілька статей були взяті з матеріалів минулих років;
- Інші приписані нереальним авторам;
- Наприклад, одна публікація про Китайсько-Пакистанський економічний коридор була списана з видання Cambridge University Press, але підписана професором Nottingham, який спеціалізується на південноазіатській політиці.
Подібні маніпуляції за допомогою штучного інтелекту
Використання генеративного ШІ для політичного впливу стало трендом. У 2024 році OpenAI виявила іншу російську кампанію під назвою Doppelganger. Вона також застосовувала ChatGPT для написання матеріалів, що просували Росію та критикували Україну, НАТО й США.
Не лише публікації, а й кібероперації проводилися за допомогою таких технологій. Наприклад, група Forest Blizzard, пов’язана з російською військовою розвідкою, використовувала чат-бота для дослідження цілей, написання скриптів та супроводу фішингових атак.
Чи пов’язані з владою Росії ці кампанії?
Хоча російськомовні запити свідчать про походження операції, OpenAI не стала стверджувати, що кампанія International Burke Institute безпосередньо підтримується Російською Федерацією.
За даними компанії, деякі ізраїльські представники могли виступати від імені інституту на конференціях чи подавати статті. Проте їх зв’язок із самою кампанією та російськими організаторами залишився невідомим.
OpenAI підкреслює: “Ми не маємо достатньо даних, щоб визначити відносини між цими особами, ІБІ та операторами у Росії”.
