Як ШІ допоміг викрити масштабні російські та іранські інформаційні операції
OpenAI нещодавно заборонила низку облікових записів із Росії та Ірану, які використовували їхні штучні інтелектуальні інструменти для проведення впливових операцій по всьому світу. Виявилося, що ці спецоперації розповсюджували неправдиві наративи серед медіа та навіть змусили політиків реагувати, що вперше висвітлює нові горизонти в розумінні інформаційних маніпуляцій.
Як росіяни імітували регіональні влади та розігрували історичні конфлікти
За інформацією OpenAI, російські агенти здійснювали атаки в Латинській Америці, намагаючись підірвати підтримку України та впливати на місцеві політичні процеси. Вони здебільшого використовували ChatGPT для написання звітів про свою роботу, звертаючись до невизначених керівників.
- Одна операція полягала в тому, що агенти видавали себе за освітян у Перу і організовували шкільні заходи з обговорення України, на яких з’являвся Степан Бандера — постать неоднозначна і суперечлива в історії.
- Ці заходи викликали відгуки у ЗМІ і навіть змусили крайньо правого депутата Європарламенту закликати заборонити в’їзд прихильникам Бандери.
- Таким чином, інформаційна компанія використовувала і загострювала давні історичні суперечності між українцями та поляками.
Секрети «фейкових аналітичних центрів» та використання штучного інтелекту
Російські внутрішні документи, створені за допомогою ChatGPT, деталізували діяльність «фейкового» аналітичного центру в Латинській Америці, де невідомі дослідники збирали інтерв’ю з експертами та готували звіти. Ця тактика нагадує собою більш ранні операції під прикриттям незалежних ЗМІ, які маніпулювали громадською думкою, наприклад, у США під час виборів 2016 року.
Переважна більшість контенту створювалася вручну, хоча штучний інтелект використовували для швидкого створення частини матеріалів. Вчені, які вивчають інформаційні операції, вказують, що AI все частіше надає змогу зменшити витрати часу на генерацію контенту, але в цьому випадку — допоміг викриттю російських спецслужб.
Іранські кампанії: як AI створює мережі «фейкових авторів» для впливу на західні ЗМІ
Натомість Іран застосував штучний інтелект інакше — для активного створення контенту англійською та перською мовами. Їхня кампанія зосереджувалась на конфліктах між США та Іраном, а також на американських внутрішніх політичних питаннях.
Особливості іранської стратегії
- Кампанія включала сім фейкових авторів, які пропонували та редагували статті для невеликих медіа по всьому світу.
- Майже 100 публікацій з’явилися у різних виданнях, серед яких були і прогресивні сайти, як-от Daily Kos, та британське видання Middle East Monitor.
- На відміну від російської стратегії, в Ірані AI активно створював автентичний на вигляд текст, який проходив через редакційні бар’єри та потрапляв до масштабної аудиторії.
Заради справедливості, деякі з медіа висловили намір удосконалити процес модерації, особливо враховуючи підвищену складність розпізнавання AI-генерованих матеріалів.
Чому це важливо
Така активність з використанням штучного інтелекту яскраво демонструє, як новітні технології можуть слугувати не лише інноваціям, а й інструментом інформаційних війн. Рішення OpenAI привертає увагу до небезпек, які супроводжують поширення фальшивих новин і пропаганди, особливо в умовах глобальних геополітичних напружень.
Отже, освоєння систем розпізнавання і протидії таким кампаніям стає необхідним для захисту правдивої інформації та демократичних процесів у світі.
