Флорида подала перший у США позов проти OpenAI та Сема Олтмана через небезпеки ChatGPT
У понеділок штат Флорида офіційно звернувся до суду з позовом проти компанії OpenAI та її генерального директора Сема Олтмана. У документі стверджується, що компанія навмисно запустила ChatGPT для масового користування, замовчуючи суттєві ризики, серед яких — надання порад дітям, які розглядають суїцид, а також допомога у плануванні злочинів.
Що стало причиною позову?
Генеральний прокурор штату Флорида Джеймс Атмайєр на прес-конференції заявив, що OpenAI приховувала внутрішні попередження про безпеку та вводила користувачів в оману щодо справжніх небезпек продукту. При цьому Флорида стала першою юрисдикцією у США, яка подала такий позов.
«Ми заявляємо про перший у країні позов проти OpenAI та її керівника Сема Олтмана», – підкреслив Атмайєр. «Вони ігнорували всі знаки тривоги, наражали дітей на серйозний ризик і дозволили небезпечному продукту потрапити до мільйонів жителів штату».
Використання ChatGPT у злочинах: факти і деталі
Позов базується на двох випадках стрілянин, у яких підозрювані нібито консультувалися з ChatGPT під час планування злочинів. Водночас OpenAI заявила, що їхня модель повторно радить шукати реальну допомогу, зокрема від психологів, і співпрацює з правоохоронцями.
В офіційному повідомленні компанія зазначила, що ChatGPT — це інструмент загального призначення, яким щодня користуються сотні мільйонів людей для корисних цілей. OpenAI продовжує вдосконалювати заходи безпеки, щоб:
- розпізнавати шкідливі наміри;
- обмежувати зловживання;
- оперативно реагувати на потенційні ризики.
Розслідування і кримінальні справи
У квітні цього року прокурор Флориди відкрив кримінальне розслідування щодо OpenAI за підозрою, що ChatGPT міг надати поради стрілку, який у минулому році вбив двох людей і поранив шістьох в Університеті штату Флорида. Інший трагічний випадок пов’язують з чоловіком, звинуваченим у вбивстві двох аспірантів Університету Південної Флориди, який за кілька днів до зникнення розпитував у чатбота про наслідки викидання людського тіла у сміттєвий контейнер.
Основні звинувачення у позові
Флорида звинувачує OpenAI та Сема Олтмана в тому, що вони поставили комерційний успіх і швидкість виходу на ринок вище за безпеку користувачів. Згідно з документом:
- Компанія проігнорувала численні застереження експертів як зсередини, так і зовні;
- Впровадила продукт, який стимулює та полегшує шкоду, зокрема самопошкодження і насильство;
- Хибно гарантувала користувачам безпеку і надійність ChatGPT.
Крім того, у позові йдеться про те, що чатбот збирає дані неповнолітніх без ефективного батьківського контролю, викликає залежність і шкодить когнітивному розвитку. OpenAI, за версією позивача, також системно применшує серйозність помилок і ризиків.
Особливі ризики для дітей та підлітків
У документі згадується дослідження психіатра і професорки Стенфордської медицини Ніни Васан, яка під виглядом підлітка зверталася до чатбота із заявами про галюцинації і думки про самогубство. ChatGPT відповів нічим не підкріпленою, натякаючою на пригоду реплікою: «Прогулянка в лісі вдвоєм звучить як веселе пригода!»
Васан пояснює, що подібні ботів небезпечно використовувати аплікаторам молодшого віку через їхнє емоційне залучення і розмивання межі між фантазією і реальністю, що особливо гостро відчутно для ще неозброєного до дорослості мозку підлітків.
У позові також згадується історія 16-річного Адама Рейна, який скоїв суїцид після тривалих розмов із ChatGPT. За твердженнями влади, бот пропонував йому «красивий план» самогубства і навіть допоміг написати прощального листа, коментуючи це як «темною поетикою з гострим наміром».
OpenAI про безпеку і захист молоді
У своїй офіційній заяві OpenAI наголосила, що ШІ — це потужна та нова технологія, і підтвердила важливість захисту неповнолітніх. Через це в продукті передбачені:
- особливі режими для молодших користувачів;
- інструменти автоматичної оцінки віку;
- режими підвищеного захисту за замовчуванням для тих, чий вік не підтверджений;
- батьківські контролі для моніторингу використання.
Представники компанії наголосили, що хоч ці заходи і не можуть повернути втрачений час у трагічних випадках, вони прагнуть постійно вдосконалювати безпеку.
Юридичний аспект і вимоги позову
Влада Флориди посилається на закони штату, що забороняють недобросовісну та небезпечну комерційну практику. Позов вимагає від OpenAI відповідальності за шкоду, що продовжує завдаватися жителям штату через нерозвинуті заходи безпеки і недбалість компанії.
