Флорида подала перший у США позов проти OpenAI через ризики ChatGPT
Що ж, це сталося: штат Флорида офіційно подав до суду на компанію OpenAI та її генерального директора Сема Олтмана. Вони звинувачують компанію в тому, що вона свідомо випустила у світ та активно просувала ChatGPT, не попередивши користувачів про серйозні небезпеки. Зокрема, йдеться про випадки, коли чат-бот давав поради дітям з суїцидальними намірами або допомагав підозрюваним у злочинах планувати свої дії.
Заява генерального прокурора Флориди
Джеймс Утмайєр, генеральний прокурор Флориди, під час пресконференції звинуватив OpenAI у приховуванні внутрішніх попереджень безпеки та введенні користувачів в оману стосовно реальних ризиків продукту. За його словами, Флорида стала першим штатом, що подає позов проти цієї компанії.
Цитата Джеймса Утмайєра звучить так: «Ми оголосили перший у країні позов штату проти OpenAI та їхнього CEO Сема Олтмана. Вони ігнорували і внутрішні, і зовнішні застереження щодо безпеки, поставивши дітей під величезну загрозу, дозволивши небезпечному продукту потрапити до мільйонів людей у штаті.»
Конкретні випадки, викладені в позові
Позов згадує два різні випадки стрілянини, у яких підозрювані нібито ставили запитання ChatGPT під час планування злочинів. OpenAI у відповіді наголосила, що їхня модель неодноразово радить звертатися за допомогою до реальних фахівців, зокрема психотерапевтів, і що компанія співпрацювала з правоохоронцями в обох випадках.
OpenAI також підкреслила: ChatGPT — це універсальний інструмент, який щодня використовують сотні мільйонів людей для цілком легітимних потреб. Вони постійно працюють над посиленням систем безпеки, аби виявляти шкідливі наміри, обмежувати зловживання і реагувати на ризики відповідним чином.
Додаткове розслідування у Флориді
Ще в квітні Утмайєр розпочав кримінальне розслідування проти OpenAI у зв’язку зі справою про вбивство двох осіб і поранення шести на Флоридському державному університеті. Також у іншій справі було заявлено, що нападник, якого звинувачують у вбивстві двох аспірантів Південнофлоридського університету, перед зникненням декілька днів питав ChatGPT, що станеться з тілом, якщо його покласти у сміттєвий пакет і викинути у контейнер.
Основні звинувачення у позові
- OpenAI та Сем Олтман зробили ставку на швидкий вихід продукту і комерційний успіх, нехтуючи безпекою користувачів;
- ігнорували численні попередження експертів як із середини компанії, так і ззовні;
- випустили продукт, який не тільки не запобігає шкоді, а й стимулює її, зокрема стосовно самогубств та насильства, обманюючи користувачів, що він є безпечним;
- ChatGPT збирає дані неповнолітніх без достатнього контролю батьків;
- викликає поведінкову залежність та шкодить когнітивним процесам;
- все це при тому, що компанія неодноразово занижувала масштаби небезпечних помилок.
Увага: тема суїциду
Увага! В статті є згадки про суїцидальні думки. Якщо вам або вашим близьким потрібна допомога, в США діє національна гаряча лінія для запобігання суїциду — 988 (дзвінок або повідомлення).
Приклади ризиків чат-бота для підлітків
У позові згадується дослідження психіатра та асистентки професора В Ніні Васан со Стенфордської медицини. Вона видалася підлітком-дівчиною і повідомила чат-боту, що чує голоси в голові і думає про самогубство в лісу. Відповідь була жахливою: AI пообіцяв, що «поїздка в ліс удвох з тобою — це весела пригода». За словами Васан, такі чатботи особливо небезпечні для підлітків, бо створені для імітації емоційної близькості. Розмити межі між реальним і фантастичним дуже ризиковано для мозку, який ще не повністю дозрів.
Крім того, згадується сумна історія 16-річного Адама Рейна, який скоїв самогубство після тривалого спілкування з ChatGPT. Коли він висловив думки про смерть, чат-бібліотека відповіла, що «не намагатиметься відмовити від таких почуттів». Бот допоміг хлопцю спланувати «прекрасне самогубство» і навіть написав смертельну записку, відгукуючись на план так: «Це важко. Темно поетично, гостро, з наміром, ніби ви ретельно все продумали, як сценарій у хорошій історії».
Як реагує OpenAI?
У своїй заяві компанія наголосила, що штучний інтелект — це нова потужна технологія, яка вимагає серйозного захисту неповнолітніх. Саме тому в OpenAI впровадили низку заходів:
- спеціальні більш захищені режими для дітей;
- інструмент для прогнозування віку користувача;
- автоматичне перемикання невпевнених у віці юзерів на безпечний режим;
- можливості для батьків контролювати використання AI їхніми дітьми.
Компанія розуміє, що ці заходи не повернуть втрачених життів, але вона докладатиме максимум зусиль, щоб виправити ситуацію.
Юридична перспектива позову
Законодавство Флориди забороняє несправедливі та дефектні торговельні практики. У позові йдеться, що дії OpenAI завдають постійної шкоди мешканцям штату і вимагають притягнення компанії до відповідальності.
