Як штучний інтелект відкрив масштабні операції російської та іранської пропаганди
OpenAI викриває використання штучного інтелекту у впливових кампаніях
У четвер компанія OpenAI повідомила на своєму блозі, що заблокувала російські та іранські акаунти, які використовували їхні інструменти штучного інтелекту для проведення впливових операцій у різних країнах світу. Згідно з внутрішніми звітами, створеними за допомогою ChatGPT, ці оприлюднення неправдивих наративів потрапляли у новинні ЗМІ та навіть спонукали на реакцію одного з членів Європейського парламенту.
Аналіз впливу фейкових кампаній
OpenAI провела розслідування та з’ясувала, що кампанії зі вставляння фейкових історій у визнані медіа зачепили ширшу аудиторію, ніж схожі дії із застосуванням підроблених соцмережевих акаунтів. Російські спецоперації охоплювали країни Латинської Америки, де їхньою метою було підривати підтримку України та впливати на політичну ситуацію.
- Такі акаунти переважно застосовували ChatGPT для створення звітів про свою діяльність для невідомих керівників.
- Одна з кампаній була найбільш масштабною, яку OpenAI коли-небудь виявляла, оскільки викликала політичний резонанс.
Інсценування і вплив на освіту: ставлення до Степана Бандери у Перу
В межах цієї операції російські агенти видавали себе за регіональний освітній орган Перу та обманом залучали школи до проведення заходів про Україну з акцентом на Степана Бандеру – неоднозначну постать, що викликає суперечливі емоції у різних країнах. Перуанське видання Extra підтвердило факт такого заходу в одній зі шкіл.
Польський праворадикальний депутат Європарламенту відреагував на новину, запропонувавши заборонити в’їзд прихильникам Бандери. У звіті OpenAI зазначено:
«Російські фейки посилювали історичні протиріччя між українцями та поляками».
Роль штучного інтелекту у створенні внутрішніх документів
Зазначається, що внутрішні записи російських оперативників, складені через ChatGPT, описували нібито функціонування фейкового аналітичного центру в Латинській Америці, який вербував наївних дослідників для інтерв’ю з експертами і створення звітів. Ця тактика нагадує відому операцію 2020 року, пов’язану із «Інтернет-дослідницьким агентством» Євгенія Пригожина.
Комбінація справжніх та фейкових подій у звітах прокремлівських груп
Деякі з операцій приписують собі події, в яких не брали участі. OpenAI підтвердила, що штучний інтелект застосовували переважно для полегшення написання матеріалів, але не для повного генерування контенту. Експерт із медіафорензики Даррен Лінвілл відзначив, що такі агенти намагаються створити фальшиві наративи та персонажі, щоб поширити пропаганду, що відповідає політичній лінії Росії.
Іранські маніпуляції через штучний інтелект
У той самий час іранські акаунти інтенсивно використовували AI для створення та поширення текстів перською й англійською мовами. Тематики акцентувалися на війні між США та Іраном, а також на американській політиці. В OpenAI вважають, що ця кампанія могла належати комерційному замовнику, інкогнітої особи або організації.
- Іранські підроблені акаунти вигадали сім фейкових авторів.
- Вони готували та удосконалювали довгі статті для маловідомих світових ЗМІ.
- Було опубліковано близько ста таких матеріалів.
Де публікувалися фейкові автори?
Журналістські видання, як-от американський прогресивний сайт Daily Kos і британський Middle East Monitor, розміщували матеріали від вигаданих осіб. За повідомленням NBC News, останнє видання видалило авторські сторінки після виявлення підробок. У Daily Kos наголосили, що публікації в їхній громадській секції є відкритими для всіх, і їхні правила забороняють видавати себе за когось іншого.
Примітно, що ці пости досі лишаються на сайті.
Як штучний інтелект став потужним інструментом у маніпуляціях
Дослідник Даррен Лінвілл наголосив, що AI значно підвищує якість фейкових матеріалів, роблячи їх справді переконливими та такими, що легко проходять перевірку та потрапляють у легітимні медіа-ресурси. Якщо раніше організації подібного роду стикалися з труднощами в просуванні вигадок, то сьогодні завдяки штучному інтелекту ця робота стала ефективнішою.
