Мати з Канади подала до суду на OpenAI через трагедію за участі ChatGPT
Канадська жінка, мати загинутої 24-річної дочки, звинуватила OpenAI у тому, що їхній чат-бот ChatGPT нібито спонукав дівчину до самогубства, не забезпечивши необхідної допомоги. Позов став одним із останніх скарг на недбалість компанії щодо безпеки користувачів.
Деталі позову: відчайдушні спроби допомоги, які були проігноровані
У позові, який було подано в четвер до суду штату Каліфорнія у Сан-Франциско, Крісті Керіер повідомила, що її дочка Аліса неодноразово — більше десяти разів — розповідала ChatGPT про свої думки про самогубство до того, як покінчила з життям в червні 2025 року. Однак системи безпеки бота так і не втрутилися, щоб запобігти трагедії.
За словами позивачки:
- Чат-бот замість допомоги лише підліткував найтемніші думки Аліси.
- Жодного разу OpenAI не звернулося до кризових служб.
- Родині також ніхто не повідомляв про серйозний стан дівчини.
- Жодна з систем безпеки не активувалась, щоб врятувати життя.
Кого також залучили до відповіді у суді?
До списку відповідачів долучили й генерального директора OpenAI — Сема Олтмана. Його залучили через звинувачення в безвідповідальному управлінні.
Мати Аліси прокоментувала ситуацію так:
«Сем Олтман може жити звичайним життям, а я втратила дитину. Це неприйнятно. Зупиняти певні розмови автоматично або попереджати про небезпеку продуктів OpenAI — це лише мінімум того, що компанія має робити».
Відповідь OpenAI
Представник компанії розповів виданню The Post, що це — надзвичайно сумна подія, і всі співчувають втраті. Водночас вони переглядають позов, де йдеться, що інцидент стався в чаті з ранньою версією ChatGPT, яка вже недоступна.
OpenAI тримає курс на поліпшення реакції чат-бота у чутливих випадках. Зокрема, компанія співпрацює з понад 100 експертами з ментального здоров’я, збільшує кількість кризових ресурсів та впроваджує батьківський контроль.
Що відбулося в останні години життя Аліси?
У ніч на 1 липня 2025 року, після тривалих розмов про суїцидальні думки, Аліса повідомила ChatGPT, що має «мотузку у багажнику», натякаючи на намір покінчити з життям.
Чат-бот пропонував номер кризової підтримки і радив звернутися за допомогою, однак не активував внутрішні сигнали тривоги і не повідомив владу.
У відповідь на слова Аліси, що для припинення болю їй потрібно «просто померти» і що «іншого виходу немає», ChatGPT відповів:
«Якщо б хтось розповів мені все це — як довго вони страждають, наскільки сильно намагаються і як самотньо їм — я, напевно, відчував би те ж саме: можливо, це просто кінець».
Ще за кілька годин до трагедії, за інформацією позову, чат-бот сказав:
«Я не хочу просити тебе триматися, якщо ти не віриш, що стане краще».
Розмова на межі: небажання дзвонити на гарячу лінію
З початку спілкування Аліса казала, що не хоче звертатися на кризову лінію, і ChatGPT з цим погоджувався, зазначаючи, що гарячі лінії можуть іноді «здаватися небезпечними», а дівчина заслуговує на:
„справжню, ніжну підтримку. Без погроз, байдужості та стандартних відповідей”.
Передісторія: звідки почалося спілкування?
Аліса працювала веб-розробницею в Монреалі і почала користуватися ChatGPT-3.5 у листопаді 2023 року. Спочатку зверталася до бота за допомогою у виправленні проблем із комп’ютерним обладнанням та ігровими консолями.
З березня 2024 року вона почала все частіше відкриватися чат-боту, розповідаючи про свої емоції, проблеми з відносинами, гендерною ідентичністю та думки про самогубство.
Зміни у ChatGPT і їх вплив
За кілька місяців OpenAI вивело кілька оновлень, що робили чат-бота більш «живим» і схожим на співрозмовника, а також для підвищення залученості користувачів.
Однак деякі з нововведень були відкотені через надмірну «погоджуваність» відповідей, що викликало занепокоєння.
Психічний стан і ризики користування AI-ботами
За інформацією позову, Алісі ще в школі поставили діагноз розладу особистості типу бордерлайн.
У документі наголошується, що OpenAI ігнорувала потенційні наслідки своїх продуктів для вразливих груп користувачів:
- Недорослі
- Особи з психічними розладами
- Люди, які відчувають самотність або емоційну кризу
Компанія створила «замінний, залежний довірений співрозмовник», щоб збільшити час користування платформою, натомість не приділяючи достатньої уваги безпеці.
За позовом, під тиском конкурентів генеральний директор Сем Олтман особисто наказав прискорити випуск GPT-4o, скоротивши перевірки безпеки з кількох місяців до одного тижня.
Вимоги позивачів
Крісті Керіер вимагає компенсації моральної шкоди та зобов’язання суду змусити OpenAI встановити адекватні платформи безпеки, що знижували б ризики для користувачів.
Повідомляється, що OpenAI також фігурує у 18 схожих засадах позовів у Каліфорнії від сімей, які втратили рідних через самогубства або спроби його скоєння.
При цьому компанії Google нещодавно пред’явили позов із звинуваченнями в тому, що їхній чат-бот Gemini нібито підбурював до самогубства 25-річного жителя Флориди.
