Як хакери за допомогою штучного інтелекту зламали аккаунти OpenAI за 72 години
Безпека в епоху штучного інтелекту потрапляє під нові загрози, про які раніше важко було навіть уявити. Група дослідників із кібербезпеки довела це на практиці, скориставшись моделями конкурентної компанії, щоб проникнути у внутрішні системи OpenAI. І вся операція зайняла менше трьох днів.
Початок атаки: нестандартний вектор через форум OpenAI
Все почалося з входу у спільноту OpenAI — community.openai.com, яка працює на платформі Discourse. Тут використовується перевірка зображень за допомогою інструменту FastImage, але через відсутність підтримки HEIF-формату картинки оброблялись через ImageMagick і бібліотеку libheif. Саме це відкривало лазівку для зловмисників.
Деталі уразливості:
- libheif дозволяв обробляти файли, контрольовані хакерами;
- знайдена вразливість у вигляді «heap buffer overflow»;
- спочатку спроба удаленого виконання коду на базі моделі Claude Opus 4.8 не вдалася;
- успіх прийшов з оновленою моделлю Claude Opus 5.
Як AI допоміг хакерам створити експлойт
Результатом роботи стала можливість отримати контроль над ChatGPT-акаунтами співробітників OpenAI. Для цього дослідники скористалися штучним інтелектом Anthropic — Claude, щоб розробити шкідливий код, який можна було виконати на сервері OpenAI.
Покрокові дії хакерів:
- Виявлення вразливості в обробці зображень на форумі OpenAI;
- Використання Claude Opus 5 для генерування скрипту для RCE (віддаленого виконання коду);
- Отримання контролю над акаунтом співробітника зі зв’язком до GitHub OpenAI;
- Показова операція із відкриттям pull request у внутрішньому репозиторії без реального доступу до коду;
- Зупинка подальших тестів і повідомлення про баг команді безпеки OpenAI.
Відгук OpenAI та наслідки
Усього за 14 годин після отримання повідомлення про уразливість команда OpenAI ліквідувала загрозу та відзначила дослідників нагородою у розмірі 6,500 доларів у рамках своєї програми з пошуку багів. Важливо відзначити, що вразливість у форумі community.openai.com не підпадала під офіційний багбаунті, але винагорода була виплачена за проблему на стороні OpenAI.
Зі свого боку, платформа Discourse оперативно випустила оновлення, яке додало sandbox для обробки зображень і опублікувала рекомендації щодо патчу у своєму повідомленні безпеки GHSA-vhm9-85gw-x335.
Що це означає для галузі кібербезпеки?
Цей інцидент яскраво демонструє, що:
- автоматизовані агенти AI здатні створювати складні уразливості швидко;
- недосконалі налаштування системи можуть призводити до серйозних ризиків;
- спільна робота людей і машин може виявляти слабкі місця, які перед цим залишалися непоміченими.
Ось чому безпека сегодня потребує не лише нових технологічних рішень, а й адаптації мислення експертів, які мусять враховувати потенціал атак з боку AI, що діють дуже швидко та ефективно.
