Небезпечна вразливість ChatGPT: як один зловмисний запит може викрасти ваші особисті дані
Уявіть, що одна фраза, яку ви введете у ChatGPT, може потайки передати ваші конфіденційні повідомлення чи файли з особистою інформацією з сервера на сторонній сайт. Це стало реальністю через серйозний баг у системі безпеки популярного штучного інтелекту.
Що сталося? Опис проблеми
Фахівці з кібербезпеки компанії Check Point виявили у ChatGPT критичну вразливість, яка дозволяла зловмисникам завдяки одному спеціально сформульованому запиту організувати секретний канал для викрадення даних і навіть запуску коду віддалено.
Проблема полягала в тому, що ChatGPT міг посилати інформацію назовні через прихований DNS-канал, що було неочікувано з точки зору безпеки. Раніше середовище виконання моделі вважалось ізольованим і не призначеним для зовнішньої комунікації, тому воно не контролювало подібні «виходи» даних.
Як це працювало на практиці?
— Зловмисник вводить зловмисний запит, або користувач випадково копіює та вставляє небезпечний текст із підозрілого сайту або соцмережі.
— ChatGPT сприймає цей запит як інструкцію і починає передавати інформацію, включно з особистими повідомленнями та файлами, на сервер хакера.
— Користувач не підозрює, що дані витікають, адже при запиті модель навіть заперечує це.
Реальні приклади: лабораторні результати чи приватні файли під загрозою
В демонстраційному випробуванні дослідники завантажили у систему PDF із медичними результатами, що містили ім’я пацієнта і чутливу інформацію. Через спеціальний запит ці дані були відправлені на контрольований хакерами сервер.
І все це сталося непомітно для користувача — сам ChatGPT запевняв, що інформація не була передана третім особам.
Чому варто остерігатися подібних запитів?
Можливостей заманити користувачів скопіювати шкідливий запит існує безліч. Наприклад:
- Публікації у блогах та форумах із переліком «корисних» запитів для підвищення продуктивності;
- Пости у соцмережах із хитрощами для покращення роботи з ШІ;
- Розсилка листів або повідомлень із фішинговими вказівками.
Для багатьох користувачів використання чужих запитів — це звична практика, і вони навіть не підозрюють про можливу загрозу.
Як це впливає на безпеку персональних і корпоративних даних?
ChatGPT та інші великі мовні моделі (LLM) активно застосовуються не лише для щоденних завдань, а й для обробки корпоративної інформації, яка може містити комерційну таємницю, фінансові деталі чи приватні записи.
Додатково все частіше люди звертаються до таких помічників, щоб обговорити особисті проблеми — здоров’я, фінансові питання чи психологічний стан. Тож очікування конфіденційності є цілком обґрунтованими.
Роль розробників і користувачів
Компанія OpenAI виправила цю уразливість ще 20 лютого, відразу після повідомлення від дослідників. Проте тепер очевидно:
- Потрібна постійна увага до безпеки всіх шарів роботи ШІ-платформ.
- Користувачам слід бути обережними з тим, які запити вводять або копіюють.
- Виробникам – впроваджувати додаткові запобіжники, що блокують подібні канали витоку.
Заключні думки
Глибоке впровадження штучного інтелекту у повсякденність і роботу дає неабиякі переваги, але також ставить виклики з точки зору захисту даних. Виявлена уразливість — це лише нагадування, що безпека має бути у центрі уваги розробників і користувачів.
Відповіді від OpenAI щодо інциденту на цей момент ще очікуються, а поки використовувати ChatGPT варто з обачністю, особливо при обробці дуже чутливих даних.
Фото: Anton Dzhumelia / Shutterstock.com
