Відхід ключових фахівців OpenAI: що це означає для безпеки штучного інтелекту?
OpenAI втратила кількох провідних експертів, відповідальних за етичний контроль і безпеку своїх штучних інтелектів. Цей процес викликає запитання про те, як компанія керує ризиками на тлі стрімкого розвитку її технологій.
Кадрові зміни в керівництві безпеки
Одним із яскравих випадків став відхід Хлої Бакаляр, головної етикині OpenAI, менш ніж за рік роботи. Вона була єдиною спеціалісткою, яка повністю зосереджувалася на етиці в компанії. Раніше, у липні, пішов Йоганнес Гайдецьке, який очолював команду з систем безпеки, а Джош Ахіам, екс-керівник місії зі збалансування цілей штучного інтелекту, теж залишив свою посаду разом із розпуском відповідної команди.
Як OpenAI трансформує підхід до безпеки
Традиційно в OpenAI функції безпеки і етики виконували окремі групи. Та зараз відповідальність за контроль ризиків все більше перекладається на науковців і інженерів, які безпосередньо займаються розробкою моделей. В теорії, це може допомогти знайти потенційні проблеми на початкових етапах, а не тоді, коли продукт вже майже готовий.
Проте існує й інша сторона медалі – втрачається незалежність цих команд, які мають право сказати “стоп”, коли безпека суперечить швидкому запуску новинки. Це питання набуває особливої гостроти, адже нейросистеми OpenAI сьогодні вже значно складніші, ніж просто чат-боти.
Приклад із системою Astra
- Тестування Astra – моделі з сильно розвиненими кібербезпековими функціями – виявило, що її потенціал викликає серйозні побоювання.
- OpenAI призупинила широке розповсюдження Astra, перевела її випробування у більш ізольоване середовище та розглядає жорсткіші обмеження на доступ до неї.
- Це показує, наскільки компанія налаштована ретельно підходити до складних і ризикованих розробок.
Визначення меж для штучного інтелекту
Системи ШІ розвиваються з надзвичайною швидкістю, все краще виконуючи складні завдання без людського втручання. Тож питання регулювання їхніх можливостей стає критично важливим.
Ті, хто встановлює ці межі, наразі мають надзвичайно серйозну відповідальність. І кожен відхід експертів, які займаються етикою і безпекою, змушує пильно слідкувати за тим, хто залишається приймати ці важливі рішення.
Історія попередніх змін
- На початку 2024 року співзасновник і головний науковець Ілля Сутскевер покинув OpenAI після участі в проєкті «Супералінювання».
- Ян Лейке, співкерівник цього ж проєкту, теж покинув компанію й публічно критикував підхід OpenAI до безпеки.
- Команда «Супералінювання» була розформована, а її завдання розподілили між іншими підрозділами.
Що варто знати користувачам ChatGPT
Хоч ці кадрові перестановки можуть викликати занепокоєння, це не означає, що слід припиняти користуватися продуктами OpenAI або думати, що компанія ігнорує безпеку. Внутрішні дискусії про безпеку і контроль нових моделей залишаються таємницею для більшості користувачів.
Головне – це те, наскільки незалежними і авторитетними є люди, які відповідають за оцінку ризиків, та чи можуть вони вчасно зупинити або відкоригувати випуски нових технологій.
OpenAI вважає, що поєднання функцій безпеки з розробкою моделей зробить процес більш ефективним. Але після відходів кількох ключових фахівців варто пильно спостерігати, хто залишився у команді, яка бере на себе важливі рішення у світі стрімкої еволюції штучного інтелекту.
