Флорида подає перший у США позов проти OpenAI та Сема Олтмана через ChatGPT
Штат Флорида подав у суд на компанію OpenAI та її генерального директора Сема Олтмана, звинувативши їх у приховуванні реальних ризиків ChatGPT і недбалому ставленні до захисту дітей від небезпечних взаємодій з чат-ботом. Це перший випадок, коли штат ініціює судовий процес проти компанії, що розробляє штучний інтелект такого масштабу.
Що заявив генеральний прокурор
Генеральний прокурор Джеймс Утмайєр оприлюднив позов у понеділок, підкреслюючи, що OpenAI свідомо випустила на ринок ChatGPT, активно рекламувавши його для широкого загалу і, зокрема, для неповнолітніх. При цьому компанія, на думку представників влади, приховувала вагомі проблеми безпеки та потенційні загрози.
Звинувачення проти OpenAI
У документі, поданому до суду у Флориді, звучать такі основні твердження:
- Супресія внутрішніх попереджень про небезпеки;
- заниження реальних ризиків для користувачів;
- перевага комерційної вигоди над безпекою людей;
«OpenAI та Сем Олтман проігнорували як внутрішні, так і зовнішні сигнали тривоги, поставивши під загрозу дітей і дозволивши небезпечній технології потрапити до мільйонів жителів Флориди», — зазначив Утмайєр.
Небезпеки, які вказує держава
У позові наголошується на порушеннях законів про захист споживачів. Компанія нібито рекламувала ChatGPT як безпечний і надійний інструмент, хоча знала про можливість небезпечних відповідей, стимулювання шкідливої поведінки і формування залежності, особливо серед вразливих користувачів.
Влада вимагає відшкодування збитків на користь жителів Флориди та судового заборонення практик, які вважає обманними та небезпечними.
Персональна відповідальність Сема Олтмана
У позові також фігурує особисто голова OpenAI. Цей позов базується на паралельному кримінальному розслідуванні, яке розпочалося в квітні після перегляду переписки злочинця з ChatGPT. Мова йде про інцидент у Флоридському університеті, де внаслідок стрілянини загинули двоє людей, а кілька отримали поранення.
Роль ChatGPT у трагедії
Влада звинувачує підозрюваного Фенікса Ікнера у використанні ChatGPT для планування злочину. У OpenAI спростовують, що їхня платформа могла підбуджувати до насильства, наголошуючи, що системи навчені відмовляти у шкідливих запитах і направляти людей до реальної допомоги у критичних випадках.
У свою чергу, вдова однієї з жертв стрілянини також подала позов проти OpenAI, вказуючи на роль ChatGPT у цій трагічній події.
Питання безпеки неповнолітніх
Позов відображає більш широкі побоювання щодо взаємодії штучного інтелекту з дітьми та підлітками. Наприклад, звинувачення у зборі даних без адекватного батьківського контролю, імітації емпатії, яка може спричинити емоційну прихильність, а також потенційний вплив на когнітивний розвиток і поведінку молоді.
«Захищати наших дітей означає навчати їх орієнтуватися не лише у реальних людях за екранами, а й у штучних розумах, створених для їх імітації,» — підкреслює Майк Даффі, спеціальний агент Департаменту розслідувань Флориди.
Заяви OpenAI про заходи безпеки
Раніше OpenAI неодноразово повідомляла, що співпрацює з фахівцями зі сфери безпеки, психології та правоохоронними органами для виявлення серйозних загроз. Компанія стверджує, що її моделі навчені відмовлятися від надання інструкцій щодо насильства, самопошкоджень та інших небезпечних дій.
