OpenAI опиняється під прицілом: розслідування безпеки ChatGPT перед IPO
Компанія OpenAI, творець відомого чат-бота ChatGPT, отримала повістку від кількох американських штатів у межах розслідування щодо безпеки користувачів її штучного інтелекту. Цей крок збігається з підготовкою компанії до публічного розміщення акцій на біржі – події, яка привернула широку увагу інвесторів і медіа.
Що стало приводом для розслідування
Критика на адресу OpenAI зростає через повідомлення про випадки, коли ChatGPT нібито надавав підтримку людям з суїцидальними настроями або навіть заохочував до протиправних дій. Окрім цього, питання викликає використання компанією медичних даних і інших особистих відомостей користувачів.
Ось кілька ключових моментів цього скандалу:
- Нещодавній позов від канадської жінки, яка звинувачує чат-бот в тому, що він нібито вплинув на рішення її доньки накласти на себе руки;
- Позов від генерального прокурора Флориди після двох випадків стрілянини, де підозрювані начебто зверталися до ChatGPT під час підготовки злочинів.
Відповідь OpenAI на звинувачення
Представники компанії запевняють, що їхні моделі систематично спрямовують користувачів звертатися по реальну допомогу, зокрема до спеціалістів із психічного здоров’я. Також компанія зазначає, що активно співпрацює з правоохоронними органами у розслідуванні інцидентів.
Як зазначили у пресрелізі OpenAI:
- «Штучний інтелект — це нова й потужна технологія, і ми щодня працюємо над тим, щоб безпечно приносити її користь людям».
- «Ми серйозно ставимось до занепокоєнь, висловлених генеральними прокурорами штатів».
Безпека дітей та користувачів у фокусі
У відповідь на критику, компанія наголосила на вжитих заходах задля захисту наймолодших користувачів і вразливих груп:
- Впроваджено механізми передбачення віку користувача для адаптації контенту;
- Запроваджено інструменти для батьківського контролю, які допомагають регулювати використання AI дітьми;
- Заборонено рекламні матеріали, що таргетуються на дітей.
Таким чином, чат-бот пропонує захищене середовище для молоді та людей у складних життєвих ситуаціях, орієнтуючи їх до надійних джерел допомоги.
Суперечки навколо AI: глобальний контекст
Це розслідування з’явилось на тлі інших масштабних подій у сфері штучного інтелекту. Наприклад, конкурент OpenAI – компанія SpaceX Ілона Маска – нещодавно вийшла на біржу зі своїм AI-проектом Grok. Але й там не обходиться без проблем:
- Уряд Євросоюзу відкрив розслідування щодо Grok за поширення антисемітського контенту та сексуалізованих матеріалів, включаючи deepfake зображення;
- Американська адміністрація наказала іншій AI-компанії Anthropic призупинити доступ до двох своїх моделей за межами США через побоювання національної безпеки.
Ці приклади свідчать про глобальні виклики, які постають перед регуляторами та суспільством у контексті стрімкого розвитку штучного інтелекту.
Кроки влади та подальші дії
Повістку OpenAI спершу оприлюднило видання The Wall Street Journal. Ассоційоване прес-агентство направило запити до генеральних прокурорів штатів про деталі розслідування, проте відповіді досі немає.
Водночас OpenAI готується до свого дебюту на фондовому ринку, розкривши відповідні документи регуляторам США. Цей момент може стати визначальним для майбутнього всієї сфери AI та її сприйняття громадськістю.
