Індійські фахівці з кібербезпеки змогли зламати OpenAI за допомогою конкурента Anthropic
Троє дослідників з Індії, які спеціалізуються на кібербезпеці, успішно проникли у систему OpenAI, використовуючи потужну AI-модель від конкурента Anthropic. Цей інцидент чітко демонструє, як сучасні штучні інтелекти можуть не лише допомагати, а й створювати загрози для компаній та їхніх користувачів.
Мохан Педхапаті про нові технології хакінгу
Мохан Педхапаті, один зі зламщиків із компанії Hacktron, розповів, що сучасні моделі штучного інтелекту значно полегшують роботу досвідчених кіберзлочинців. Він порівняв кожне нове покоління AI з «потужним інструментом», що здатен посилити ефективність атак.
За його словами, із розвитком технологій AI хакерські можливості суттєво зростають — і це викликає зростаючу стурбованість з приводу зловмисників, які також можуть скористатися такими моделями.
Як саме відбувався злам
У своєму останньому звіті Hacktron розповіли, що наприкінці липня вони використали модель Claude (версії Opus 4.8) для пошуку вразливостей у третій стороні — сервісі Discourse, який слугує платформою для спільноти користувачів OpenAI.
Їхньою метою було виявити слабкі місця, аби проникнути до акаунтів користувачів, які можуть заходити у форум через облікові записи OpenAI. Хоча початково не вдалося використати виявлену вразливість, прем’єра моделі Claude Opus 5 відбулася вже тієї ж ночі.
Завдяки новій моделі, наступного дня дослідники мали доступ до обмеженої кількості акаунтів ChatGPT і Codex користувачів, що комунікували на форумі. Це чудово ілюструє, як стрімко змінюються можливості у сфері штучного інтелекту буквально з дня на день.
Що загрожувало акаунтам користувачів
Отримавши доступ до акаунтів, хакери могли зайти у всі підключені додатки — від електронної пошти до Slack. Вони мали можливість бачити усі розмови користувачів у ChatGPT, у тому числі й тих, які належать співробітникам OpenAI, чиї акаунти були пов’язані з внутрішніми службами.
Педхапаті прокоментував: “Все, про що ти спілкуєшся з ChatGPT — ми можемо це вичерпувати і отримати доступ до твоїх приватних або особистих даних”.
Винагорода за виявлені вразливості і принцип “білі капелюхи”
Компанії зі сфери технологій часто пропонують так звані “багбаунті” — нагороди для етичних хакерів, які допомагають відшукати і усунути вразливості в їхніх системах. За це можна отримати чималі суми від тисяч до мільйонів доларів.
Команда Hacktron розглядає свою діяльність саме в цьому ключі — як допомогу OpenAI у захисті, одночасно отримуючи можливість працювати з потужними AI-моделями з меншими обмеженнями.
За словами Педхапаті, без використання моделей Anthropic та їхньої швидкої обробки інформації, подібний злам міг зайняти у нього кілька місяців. Натомість, завдяки штучному інтелекту, на це пішло менше трьох днів.
Загроза безпеці й інші вразливості
Педхапаті зазначив, що найбільша небезпека — це недооцінка ризиків, які створюють штучні інтелекти, якщо ігнорувати основні принципи кібербезпеки.
- Коли компанії будують свої продукти, треба відштовхуватися від припущення, що будь-які системи можуть бути зламані.
- Вразливості часто ховаються не в основному коді, а у взаємодії з третьою стороною, що служить опорною платформою.
- У випадку OpenAI, фахівці не проникали безпосередньо в код компанії, а скористались слабкими місцями у сторонньому сервісі.
Реакція OpenAI і загальна картина галузі
У офіційній заяві OpenAI подякували дослідникам за виявлення проблем і швидко обмежили доступ, зменшуючи права на токени вхідних сесій спільноти.
Страхи щодо безпеки штучного інтелекту загострилися після нещодавнього злому сервіса Hugging Face. Керівники галузі відкрито говорять про потенційні загрози, спричинені розвитком AI, та серйозність таких викликів для суспільства.
- Однією з найбільших побоювань є можливість викрадення самих моделей — їхніх “ваг”, котрі роблять AI настільки ефективним.
- Ці моделі — це стратегічний ресурс, який може зацікавити не лише злочинців, а й державних супротивників.
- Навіть невелика компанія на кшталт Hacktron змогла за кілька днів порушити безпеку OpenAI, тож можливо, хто завгодно із професійною підтримкою зробить це швидше.
Експерти в галузі кібербезпеки особливо наголошують, що розробники ставлять перед собою мету максимального прискорення розвитку технологій як пріоритет, інколи нехтуючи питаннями безпеки.
Це створює ризики, які суспільству і регуляторам ще тільки належить врегулювати та краще зрозуміти.
