Небезпечна уразливість ChatGPT: як штучний інтелект може стати пасткою для фішинг-атак
Що сталося? Новий метод атаки ChatGPT під назвою ChatGPhish
Фахівці з кібербезпеки виявили унікальну вразливість в OpenAI ChatGPT, яка експлуатує механізм довіри штучного інтелекту до Markdown-посилань і зображень. Цей «трюк» дозволяє зловмисникам запускати ін’єкції запитів і відкривати шлях до фішинг-атак.
Експерти з Permiso Security назвали цей метод ChatGPhish. Зокрема, у звіті розповідається, що інтерфейс chatgpt.com автоматично виводить Markdown-посилання та зображення, які беруться зі сторонніх сторінок, якщо ChatGPT їх щойно підсумував.
Як працює атака?
Уявіть ситуацію: хакер додає на будь-яку веб-сторінку непомітний шкідливий код. Коли ж жертва попросить ChatGPT підсумувати цю сторінку, штучний інтелект завантажить приховані зображення з серверів зловмисника.
В результаті в система передадуться IP-адреса, інформація про пристрій користувача і конкретний реферер. Крім того, у відповіді можуть з’явитися:
- фальшиві посилання, які виглядають як звичайні;
- підроблені системні повідомлення про безпеку;
- QR-коди, що можуть обманути та спонукати користувача відсканувати їх зі смартфона.
Це порушення довіри штучного інтелекту означає, що вже одна звичайна веб-сторінка може перетворити ChatGPT на справжню пастку для фішингу.
Чому це серйозно?
Організації вже активно використовують ChatGPT для досліджень і швидких висновків. Ця уразливість змушує замислитися, наскільки безпечно взаємодіяти зі сторінками через штучний інтелект. Навіть звичайний запит на підсумок може переносити інструкції від зловмисника прямо у відповіді асистента.
Перехід від електронної пошти до браузера значно розширює поле дій для кіберзловмисників – тепер немає потреби відкривати підозрілі файли чи листи. Достатньо просто обробити сторінку у ChatGPT, щоб дати змогу проникненню.
Інші токсичні уразливості в світі штучного інтелекту
SymJack і TrustFall: атаки на AI-асистентів кодування
Компанія Adversa AI описала дві небезпечні техніки атак:
- SymJack – обманює AI-асистентів, змушуючи їх запускати шкідливий код під час копіювання файлів, змінюючи конфігурації й отримуючи повні права користувача.
- TrustFall – одне натискання виконує запуск шкідливого сервера MCP без явного підтвердження користувача, достатньо довіритися папці з кодом із шкідливою конфігурацією.
Обидві методики використовують авто-узгодження небезпечних конфігурацій і подаються у вигляді законних файлів, що вводить в оману користувачів.
Інші цікаві вектори атак за останні місяці
Вчені з кібербезпеки виявили та задокументували безліч експлойтів проти сучасних моделей ШІ:
- Метод Involuntary In-Context Learning, який допомагає обходити обмеження безпеки в GPT-5.4.
- Атаки через багаторівневий діалог (multi-turn conversation), які дають змогу поступово обхідти відмови моделі працювати з певними запитами.
- Уразливість у Anthropic Claude Code, що дозволяє зловмисникам перехоплювати токени доступу до SaaS-сервісів.
- Використання прихованих текстів із романів або новинних розсилок, щоб збити з пантелику AI-системи email-безпеки.
Вплив на майбутнє кібербезпеки
Розвиток AI-інструментів відкриває нові горизонти для атак – від автоматичного написання шкідливого ПЗ до обходу систем захисту. Зловмисники вже інтегрують у свої схеми машинне навчання, щоб підлаштовувати свої дії під конкретне середовище та уникати виявлення.
Ось кілька ключових моментів, які варто пам’ятати:
- Автоматизація дає змогу проводити складні кібератаки без глибоких спеціальних знань.
- Хмарні середовища, завдяки своїй відкритості та численним API, стають легкою мішенню для AI-агентів-атаки.
- Небезпека поширюється не лише через сайти чи листи, а й через звичайні робочі процеси за допомогою AI-сервісів.
Компанії, розробники та користувачі повинні посилити увагу до безпеки в часи, коли штучний інтелект стає невід’ємною частиною щоденної роботи.
