Масштабна кібератака на ChatGPT: OpenAI зупиняє координаційну спробу
OpenAI повідомила про викриття та нейтралізацію масового узгодженого нападу на свій штучний інтелект ChatGPT. Пік атаки припав на понад 15 тисяч користувачів, які намагалися масштабно атакувати чатбот, щоб витягти з нього технологічну основу.
Що таке атака та як вона розпочалась?
Атака стартувала на початку липня з невеликої кількості спроб, які поступово масштабувалися. До кінця місяця обсяги застосованих методів значно зросли, а 28 липня компанія відзначила факт припинення атаки та ідентифікувала понад 15 000 користувачів, ймовірно пов’язаних із цим процесом.
Відомості про організаторів
OpenAI вказала на причетність Moonshot AI — китайського розробника, що стоїть за системою Kimi — до часткової участі в атакувальних діях, однак не має впевненості в повній відповідальності цієї компанії. Запит на коментар у Moonshot AI залишився без негайної відповіді.
Що таке “дистиляція” і навіщо це роблять?
Дистиляція моделі — популярний метод у сфері штучного інтелекту, який застосовують як для глибшого розуміння принципів роботи великих моделей, так і для зменшення їх розміру, підвищення ефективності та оптимізації ресурсів.
Незважаючи на легітимність цієї техніки, великі компанії, зокрема OpenAI, ставлять під сумнів безпечність таких дій, адже дистиляція без належних заходів може порушувати захисні механізми моделей та створювати загрози.
Ризики та виклики у світі ШІ
- Неправомірне копіювання технологій без збереження засобів безпеки;
- Ризики для національної безпеки та безпеки користувачів;
- Швидке поширення передових розробок конкурентами без інвестицій у навчання та обчислювальні потужності.
Як OpenAI зупинила атаку
Щоб нейтралізувати атаку, OpenAI використала комплекс заходів захисту, серед яких:
- Блокування підозрілих акаунтів;
- Виправлення технічних вразливостей, що дозволяли бачити внутрішні процеси мислення моделей;
- Співпраця з третіми провайдерами для закриття сумнівних облікових записів.
Крім того, компанія поділилася релевантними даними з іншими технологічними фірмами та урядами, щоб спільно відстежувати та протидіяти схожим загрозам у майбутньому.
Що далі?
OpenAI попереджає, що спроби ворожої дистиляції стануть більш витонченими з підвищенням рівня новітніх моделей штучного інтелекту. Для ефективного захисту потрібен багатошаровий підхід і постійне вдосконалення методів протидії.
Компанія планує і надалі посилювати оборонні механізми, розробляти інструменти для раннього виявлення подібних атак та сприяти відкритому обміну інформацією між гравцями індустрії та урядовими структурами.
