Розкрито масштабну операцію китайського впливу через помилкове використання ChatGPT
Нещодавній звіт від OpenAI, компанії-розробника ChatGPT, пролив світло на широку операцію впливу Китаю, що була випадково викрита одним із китайських правоохоронців, який застосовував штучний інтелект для ведення своїх записів. Ця секретна кампанія переслідувала мету залякування китайських дисидентів за кордоном і, серед іншого, використовувала методи маскування під американських імміграційних службовців.
Як працювала операція: щоденник та прийоми впливу
Китайський правоохоронець використовував ChatGPT як особистий щоденник, описуючи кроки супротивників режиму за кордоном. Звіт OpenAI демонструє, що дії включали:
- імітацію офіційних листів від імміграційних органів США, щоб залякати дисидентів;
- спроби видалити акаунти у соціальних мережах шляхом підроблених юридичних документів з місцевих судів США;
- створення фейкових повідомлень про смерть дисидентів із підробленими обелісками і фото для поширення в інтернеті.
Цей спосіб документування репресій дає яскравий приклад того, як тоталітарні режими використовують штучний інтелект для контролю та цензури.
Обсяги та масштаб операції
OpenAI виявив, що до кампанії були залучені сотні китайських агентів та тисячі фальшивих акаунтів у різних соціальних мережах. За словами Бена Німмо, провідного дослідника OpenAI, це не просто цифровий тролінг — це “індустріалізована” репресія, спрямована на те, щоб одночасно вдарити по критиках Комуністичної партії Китаю в усіх доступних сферах.
Інші приклади діяльності мережі
Серед зафіксованих дій — спроби дискредитації політиків інших країн. Наприклад, один із користувачів ChatGPT замовляв план дискредитації новообраного прем’єр-міністра Японії Танае Такаічі, викликаючи протестні настрої через американські тарифи на японські товари. Хоча ChatGPT відмовився виконувати таке завдання, в інтернеті з’являлись відповідні негативні хештеги та дописи.
Війна за штучний інтелект між США та Китаєм
Цей випадок відбувається на фоні жорсткої конкуренції між двома світовими гігантами — США та Китаєм, в якій штучний інтелект стає не лише технологічною, а й геополітичною зброєю. Наприклад:
- Пентагон веде переговори з компанією Anthropic щодо зняття обмежень із їхньої AI-моделі;
- вже поставлено ультиматуми щодо використання та контролю штучного інтелекту;
- технології стають важливою частиною не лише бізнесу, а й військової стратегії.
Експерти відзначають, що використання ШІ Китаєм для посилення інформаційних операцій свідчить про загальну тенденцію активного застосування новітніх технологій у розвідувальній діяльності та цензурі.
Відкрите питання контролю та наслідків
Розкриття цієї операції викликає стурбованість щодо потенціалу штучного інтелекту у створенні масштабних мереж дезінформації та репресій за межами національних кордонів.
Дипломатичні відомства, зокрема посольство Китаю у Вашингтоні, наразі не надали коментарів з цього приводу.
