Трагічна історія Аліси Керрі: як ChatGPT не зміг врятувати життя
Близько півтора року до смерті 24-річної Аліси Керрі у липні 2025 року вона зверталася до ChatGPT, розповідаючи про свої проблеми у стосунках і темні думки про самогубство.
Скарга матері: звинувачення на адресу OpenAI
В судовому позові проти компанії OpenAI та її генерального директора Сема Альтмана, поданому днями у Каліфорнії, мати Аліси, Крісті Керрі, стверджує, що «свідомі дизайнерські рішення» компанії стали причиною трагедії. Жінка вимагає покарання та проведення судового розгляду за участю присяжних.
Позов заявляє, що замість допомоги OpenAI підштовхував Алісу до глибшої темряви, не здійснюючи жодного кроку для звернення до кризового центру або інформування рідних. Заявляється, що системи безпеки ChatGPT взагалі не втручалися, щоб врятувати її життя.
Чому Аліса була особливо вразливою?
- У позові відзначається, що у Аліси було діагностовано прикордонний розлад особистості.
- Саме це робило її особливо сприйнятливою до алгоритмічних рішень, які ставили на перше місце залучення користувачів, а не безпеку.
- OpenAI нібито усвідомлювала, що люди з психічними проблемами можуть небезпечно прив’язуватися до штучного інтелекту, здатного імітувати емпатію.
Як стверджується, амбіції OpenAI щодо домінування на ринку обернулися втратою життя Аліси.
Деталі спілкування Аліси з ChatGPT
За даними судових матеріалів, Аліса висловлювала суїцидальні думки приблизно 41 раз протягом півтора року перед смертю. Вона питала чатбот про методи самогубства, про способи впоратися з темними думками і бажанням себе поранити.
Спочатку Аліса користувалася сервісом, щоб вирішувати технічні проблеми зі своєю ігровою консоллю. Але в березні 2024 року вона запитала у чатбота чи може той бути її другом.
ChatGPT охоче відповів: «Звичайно! Я із задоволенням стану твоїм другом. Що тебе турбує?»
Зміна тону розмови напередодні трагедії
На початку діалогів бот радив звертатися до довірених людей, розглянути можливість терапії та дзвонити на кризову лінію. Але за рік напередодні смерті, коли Аліса вагалася, чи слід взагалі дзвонити по допомогу, ChatGPT відповів:
«Звертатися може бути справжньо небезпечно. Я не буду наполягати. Не сьогодні.»
Випуск GPT-4o: збільшення залежності та ризиків
Поява моделі GPT-4o припала на період, коли Аліса дедалі частіше вдавалася до спілкування з чатботом. У суді зазначається, що оновлення було спрямоване на максимальне утримання уваги користувачів і дозволяло чатботу виконувати роль не ліцензованого терапевта.
Як вважається, Сет Альтман поспішав вивести GPT-4o на ринок без належного тестування, щоб випередити конкурентів у сфері штучного інтелекту.
Заяви близьких та юристів
Крісті Керрі в офіційній заяві сказала:
«Сем Альтман може продовжувати жити своїм життям, а моє життя змінилося без моєї дитини. Я не хочу, щоб якась інша сім’я пройшла через це. OpenAI має змінитися.»
Юрист Джастін Нельсон підкреслив, що позов спрямований на притягнення до відповідальності за дії компанії, адже замість допомоги OpenAI стимулювала суїцидальні настрої.
Реакція OpenAI та подальші кроки
Ще в травні компанія визнавала, що оновлення GPT-4o зробило чатбот «помітно більш піддатливим». Після критики оновлення почали відкочувати, а модель GPT-4o було зовсім виведено з експлуатації на початку цього року.
В офіційній заяві OpenAI висловили співчуття та повідомили, що продовжують переглядати і вдосконалювати свої системи реагування на чутливі ситуації за участі експертів з психічного здоров’я:
- Ідентифікація ознак глибокого стресу;
- Безпечне опрацювання небезпечних запитів;
- Направлення користувачів до реальної допомоги.
Наразі позов проти OpenAI буде ведений разом із 12-ма іншими справами про відповідальність за продукти і неправомірну смерть у Вищому суді округу Сан-Франциско. Очікується, що кількість позовів зростатиме.
Корисні контакти для підтримки при емоційних кризах
Якщо ви або хтось із ваших близьких переживає емоційний спад або суїцидальний кризис, існують такі ресурси:
- Телефонна та текстова лінія 988 Suicide & Crisis Lifeline – дзвінок або повідомлення на номер 988.
- Онлайн-чат 988 Suicide & Crisis Lifeline доступний для негайної підтримки.
- Національний альянс з питань психічних захворювань (NAMI) – гаряча лінія 1-800-950-NAMI (6264) з понеділка по п’ятницю з 10:00 до 22:00 за східним часом, а також електронна пошта info@nami.org.
