Як китайські силовики використовують ChatGPT для масштабних операцій впливу та цензури
Останнє розслідування від OpenAI викрило цікавий випадок: посадовець китайських правоохоронних органів звернувся до ChatGPT з метою перевірки звітів про кібероперації. Проте у ході цієї взаємодії стали відомі факти глобальної кампанії придушення критики на адресу Китаю, що охоплює як внутрішню, так і міжнародну аудиторію.
Огляд ключової діяльності
Звіт, оприлюднений OpenAI у середу, розповідає про використання одного облікового запису для редагування та оцінки доповідей про “спеціальні кібероперації” з допомогою ChatGPT. Інтерес викликала також спроба планування пропагандистської кампанії проти прем’єр-міністра Японії Санае Такайчі. Хоча модель відмовила у допомозі, пізніше користувач повернувся з натяками, що операція відбулася всупереч цьому.
Зі звітів видно, що ці загрози давно активні, а їхня мета – придушення інакомислення та заглушення голосу критиків у різних форматах, онлайн і офлайн.
Масштаб і ресурси операції
Хоч офіційно задокументовано дію лише одного облікового запису, OpenAI зауважує, що операції мають масштабний характер, вимагають значних ресурсів і постійної підтримки. Залучено сотні людей, тисячі фейкових акаунтів у соціальних мережах, а також застосовуються китайські локальні моделі штучного інтелекту.
- Масове публікування та створення контенту;
- флуд соціальних платформ скаргами на акаунти дисидентів;
- фальсифікація документів;
- шахрайське видавання себе за офіційних осіб США для залякування.
Інші масштаби діяльності
Окрім цього, чат-бот був використаний групою, яка, ймовірно, працює з материкового Китаю. Вона збирала інформацію про американців, спеціалізовані форуми та місця розташування федеральних будівель США.
Ці облікові записи створювали англомовні електронні листи від імені компанії Nimbus Hub Consulting, яка нібито базується в Гонконгу. Проте у своїй роботі вони користувалися VPN та спілкувалися спрощеною китайською – мовою, що зазвичай використовується в КНР.
Залучення U.S. офіційних структур
Відмічається, що система ChatGPT забезпечувала надання публічно доступної інформації про місця роботи федеральних службовців, розподіл персоналу по штатах, а також про професійні форуми та сайти з працевлаштування у сфері економіки та фінансів США.
Китайська група розсилала листи чиновникам та аналітикам з бізнесу, пропонуючи платні консультації та стратегічні поради від “клієнтів”. Часто вони прагнули перевести спілкування на сторонні платформи з відеозв’язком, як-от WhatsApp, Zoom чи Teams.
Один із акаунтів навіть надав технічні характеристики свого обладнання та попросив покрокові, прості інструкції для встановлення програми для миттєвої заміни облич – FaceFusion. Модель відповіла, використовуючи інформацію з офіційного сайту та документації FaceFusion.
Відсутність ознак атак
У звіті більшу увагу приділено тому, як кіберзлочинці та державні структури користуються ChatGPT для підтримки шахрайських схем та інформаційного впливу. Зокрема описано:
- чотири приховані інформаційні операції;
- три романтичні шахрайства;
- пропагандистський контент для прокремлівської групи Rybar.
Він також демонструє, як ChatGPT застосовувався для автоматизації окремих завдань, наприклад, у камбоджійській схемі романтичного шахрайства – комунікація відбувалась одночасно із залученням людини та AI.
Офіційні представники OpenAI зазначили, що наразі немає підтверджень використання ChatGPT для прямих кібернападів або автоматичних злочинних дій, хоч кілька дійсних розслідувань і тривають.
Роль штучного інтелекту в операціях
Загалом більшість активності виглядає як експерименти з новими технологіями, пошук найбільш ефективних способів їх застосування в операціях впливу:
- створення пропаганди;
- моніторинг соціальних мереж;
- покращення перекладу для фішингових повідомлень.
Найчастіше чат-бот використовується як додатковий інструмент у вже наявних схемах. Для китайських силовиків ChatGPT виступає лише однією зі складових, поряд з місцевими AI-моделями, такими як DeepSeek.
Відтак, згідно зі звітом, злочинці рідко обмежуються однією платформою або одним інструментом. Вони комбінують різні технології, оптимізуючи власні операційні ланцюжки.
