Як шахраї використовують ChatGPT: романтичні афери, підроблені документи та політичні провокації
Компанія OpenAI відкриває завісу над тим, як шахраї намагаються застосовувати ChatGPT для реалізації найрізноманітніших злочинних схем — від сучасних версій романтичних афер до наклепів на прем’єр-міністра Японії.
Романтичні афери нового покоління
У свіжому звіті OpenAI наведено приклади шахрайств, що, ймовірно, виникли в Камбоджі. За допомогою ChatGPT зловмисники створювали логотипи для підроблених дорогих сайтів знайомств, генерували фото фейкових жінок та навіть отримували поради з оподаткування. Найцікавіше, що користувачі заявляли про свою професію як «шахрай» під час запитів фінансових рекомендацій.
Компанія припускає, що ці шахрайські схеми орієнтовані на чоловіків з Індонезії, зацікавлених у розкішному способі життя, та, ймовірно, вводять в оману сотні жертв щомісяця. Механізм роботи включає такі етапи:
- Вибір користувачем вигаданих жіночих персонажів і типів стосунків;
- Створення довіри за допомогою чат-бота, що грає роль фліртуючої рецепціоністки;
- Переведення розмови у Telegram, де поєднання живих людей та ChatGPT застосовують романтичну або сексуально відверту мову;
- Поступове залучення жертв до виконання «завдань» із вимогою значних платежів через банківські перекази або цифрові гаманці.
Шахрайства з підробкою документів та юридичним прикриттям
Крім фальшивих побачень, OpenAI виявила і блокувала численні акаунти ChatGPT, які прикидалися юридичними фірмами, адвокатами або представниками правоохоронних органів США. Зловмисники використовували моделі штучного інтелекту для створення:
- Фейкових членських квитків Нью-Йоркської асоціації адвокатів;
- Соціальних рекламних оголошень для просування своїх схем.
Засоби вводили людей в оману, додаючи авторитетності шахрайським постачальникам послуг.
Кібероперації з політичним підтекстом
Найгучнішою виявилася справа, пов’язана з особою з китайських правоохоронних органів, яка намагалася використати ChatGPT для планування та реалізації закритої інформаційної операції проти прем’єр-міністра Японії Санае Такайчі. Ця кампанія розпочалась після публічної критики Такайчі на адресу порушень прав людини в Монголії.
За словами OpenAI, дві головні особливості цієї операції:
- Велика кількість залучених співробітників (понад сотні людей) і численні фейкові акаунти;
- Активне використання локальних AI-моделей та комплекс методів, включно з масовими репортами, публікаціями, підробкою документів і імітацією урядових осіб.
Хоча ChatGPT відмовився допомагати в плануванні операції, користувач продовжував використовувати сервіс для редагування та поліпшення звітів про хід кампанії. Відповідно до OpenAI, у цій діяльності також застосовували моделі DeepSeek і Qwen.
Що розповідає цей кейс про сучасні виклики
Директор з розслідувань OpenAI Бен Німмо зазначив, що такі операції демонструють новий рівень транснаціонального репресивного впливу, який є не лише цифровим тролінгом, а справжньою індустрією змов для придушення інакомислення.
Інформація про спроби зловживань з боку китайських і японських офіційних структур наразі не отримала офіційних коментарів від відповідних дипломатичних установ.
