OpenAI виявила мережі фейкових акаунтів з Китаю, що втручались у американську технологічну дискусію
OpenAI забанила дві великі групи акаунтів ChatGPT, які, ймовірно, працювали з Китаю. Ці акаунти використовували моделі штучного інтелекту для прихованих інформаційних кампаній, спрямованих на вплив у дебатах щодо технологій і політики у США. Одна з груп, під назвою «Data Center Bandwagon», створювала коментарі в соцмережах і навіть комікси, які звинувачували дата-центри штучного інтелекту у зростанні рахунків за електроенергію у домогосподарствах.
Особливості діяльності акаунтів «Data Center Bandwagon»
Ця група використовувала ChatGPT в спрощеній китайській мові через VPN, при цьому в соцмережі X (колишній Twitter) видавала себе за американців з різних соціальних прошарків. Незважаючи на активність, OpenAI відзначила, що ця кампанія мала майже нульову реальну взаємодію з аудиторією.
Хто стояв за кампанією?
OpenAI припускає, що операторами були співробітники приватної китайської технологічної компанії, які виконували завдання для регіональних урядових клієнтів. В одному з випадків вони просили ChatGPT створити комікс про ціни аукціону потужностей оператора електромережі, використовуючи матеріали місцевої газети. Потім публікували цей контент із хештегами #capacityauction у X, разом із посиланнями на реальні новини.
Реальний контекст проблеми
- Хоча конкретного оператора мережі не називали, проблема пов’язана з реальним конфліктом довкола ціноутворення на електроенергію в регіоні PJM Interconnection — найбільшій електросистемі США.
- За даними незалежного ринкового монітора PJM, дата-центри спричинили зростання цін на електроенергію на 75,5% за останні роки, а у деяких районах оптова вартість зросла на 267%.
- Три сенатори США звернулися з питаннями до Amazon, Google та Meta щодо впливу цих витрат на рахунки жителів.
Кампанія «Tech and Tariffs»: анти-тарифні карикатури та дезінформація
Друга група акаунтів під назвою «Tech and Tariffs» створювала карикатури, які іронізували над торговельним суперництвом між США й Китаєм. Ці карикатури зображували Дональда Трампа, але цілеспрямовано не включали китайського лідера Сі Цзіньпіна. Також ця мережа була пов’язана з фейковими акаунтами в X, що поширювали хибні твердження про крадіжку даних користувачів ChatGPT.
Особливості діяльності та методи
- Ці акаунти публікували масові коментарі різними мовами, включно з англійською, італійською, японською та традиційною китайською, орієнтуючись навіть на тайванську аудиторію.
- Один із операторів описав мережу як «водяну армію» — китайський термін для координованих мереж тролів.
- Вони просили ChatGPT допомоги у створенні системи для збору та аналізу соціальних мереж, проте платформа відмовилася надавати конкретні дані, даючи загальні поради щодо зберігання інформації.
Порівняння з попередніми операціями та стратегічний контекст
У звіті OpenAI ці кампанії порівнюють з операцією Spamouflage 2022 року, яку виявляли ASPI та компанія Mandiant. Тоді активність була спрямована на ринки рідкоземельних металів — Lynas Rare Earths, Appia та USA Rare Earth. У той час П’ятирічний план Китаю 14-го циклу фокусувався на розвитку цього сектору.
Нові кампанії збігаються з прийняттям 15-го П’ятирічного плану, який виводить штучний інтелект у статус стратегічної галузі країни, що підкреслює важливість цієї теми для китайської державної політики.
Слідкуйте за оновленнями та технологічними новинами, щоб бути в курсі актуальних подій у світі штучного інтелекту та міжнародної політики.
