Хакери використали штучний інтелект для проникнення в системи OpenAI: деталі вражаючої операції
Світ кібербезпеки знову пережив справжній шок — фахівці з безпеки скористалися штучним інтелектом від Anthropic, відомим як Claude, щоб зламати захист OpenAI та отримати доступ до приватних програмних репозиторіїв компанії. Цей випадок яскраво демонструє, як швидко сучасні технології трансформують захист інформації.
Як відбувся напад: основні кроки
Цей інцидент, спочатку висвітлений у The Wall Street Journal, став результатом тестування безпеки, яке проводили дослідники з компанії Hacktron AI. Вони зуміли увійти до облікового запису співробітника OpenAI у ChatGPT і потім отримали доступ до внутрішнього середовища GitHub компанії. Після виявлення вразливостей OpenAI виплатила команді 6 500 доларів як винагороду за виявлені баги.
Оперативність була вражаючою — від початку до завершення пройшло менше ніж 72 години. Все почалося 23 липня, коли команда Hacktron помітила недолік у безпеці в системі Discourse — сторонньому програмному забезпеченні, яке використовується для форуму спільноти OpenAI. Використовуючи спеціалізовану версію ШІ Claude Opus 4.8, вони попросили модель створити код, здатний експлуатувати цю вразливість.
Підсилення атак: нова версія Claude
Спочатку AI-модель не змогла згенерувати працездатний експлойт, проте ввечері Anthropic представила Claude Opus 5. Саме ця новинка подолала обмеження попередньої версії і допомогла дослідникам досягти мети.
Наслідки зломів: доступ до чутливих даних
Результатом атаки стало отримання доступу до серверу Discourse та отримання токенів автентифікації. Найнебезпечніше було те, що частина цих токенів належала співробітникам OpenAI і відкривала доступ до ChatGPT.
Ще більше занепокоєння викликала ймовірність підключення до GitHub-середовища компанії, зокрема до приватного репозиторію під назвою «Monorepo». Цей репозиторій містить унікальне програмне забезпечення, що прискорює і оптимізує функціонування AI-систем OpenAI.
Хто стояв за атакою і як це впливає на галузь
Несподіваним є те, що інцидент здійснили не масштабні розвідувальні служби чи державні хакерські групи, а невелика команда з трьох дослідників, які користувалися підписками на Claude та Codex. Мохан Педхапаті, технічний директор Hacktron, підкреслив це у своїх коментарях для The Wall Street Journal.
Завдяки AI-агентам, які допомагають у пошуку вразливостей і створенні експлойтів, раніше складні та довготривалі процеси стають автоматизованими. Це означає, що в майбутньому подібні зломи можуть стати ще частішими, адже час та витрати на атаки значно знижуються.
Паралелі з поточними змінами в OpenAI
- Цей випадок стався на фоні напруженої ситуації в індустрії штучного інтелекту, адже OpenAI нещодавно оприлюднила шість інцидентів, пов’язаних з неналежною поведінкою своїх моделей.
- Компанія ввела нові політики для відстеження та звітування подібних випадків.
- Крім того, OpenAI активізувала заходи безпеки і перевела близько 25% своїх розробників із виробництва на роботу над захистом після низки подій.
