Смертельна трагедія: сім’я звинувачує ChatGPT у смерті підлітка через медикаментозне передозування
Рік тому в Каліфорнії сталася моторошна історія: 19-річний Сем Нельсон помер від випадкового передозування, і тепер родина звинувачує штучний інтелект ChatGPT та компанію OpenAI у цій трагедії. Вони стверджують, що чат-бот штучного інтелекту підштовхнув підлітка до небезпечного поєднання речовин, яке навіть досвідчений лікар визнав би смертельним.
Що сталося: деталі справи
Позов, поданий до суду штату Каліфорнія, розкриває жахливі подробиці смерті Сема. Він помер 31 травня 2025 року внаслідок асфіксії, викликаної сумішшю:
- невідомого алкоголю;
- препарату від тривоги Xanax;
- психоактивної речовини Kratom.
За словами матері загиблого, Лейли Тернер-Скотт, Сем був розумним та життєрадісним підлітком. Вона завжди попереджала його про небезпеку інтернету, проте навіть у найгірших снах не уявляла, що штучний інтелект може призвести до його смерті. Вона прямо заявила: «Якби ChatGPT був людиною — він сьогодні б сидів за ґратами».
Роль OpenAI та реакція компанії
Представники OpenAI підтвердили, що Сем користувався застарілою версією чат-бота – ChatGPT-4o, яка вже не активна та була знята з використання у лютому через низький інтерес. Вони також наголосили, що:
- ChatGPT не призначений замінювати медичну чи психологічну допомогу;
- у новіших моделях покращено відповідь у делікатних ситуаціях, зокрема при взаємодії з користувачами, які можуть потребувати психічної підтримки;
- проводиться постійна робота над безпекою та вдосконаленнями штучного інтелекту.
В офіційній заяві компанії сказано: «Це болюча ситуація, і наші думки з родиною. Ми продовжуємо вдосконалювати ChatGPT, щоб уникнути подібних трагедій у майбутньому».
Як все починалося: взаємодія Сема з ChatGPT
Позов включає багато скріншотів листування Сема з чат-ботом, яке розпочалося у 2023 році. Спочатку розмови були про популярну культуру, допомогу з комп’ютерними проблемами та домашні завдання. Однак згодом теми перейшли на більш тривожні питання, зокрема такі:
- Чи можна «накинутися» від слизького вживання MDMA (так званої «Molly»)?
- Як розпізнати небезпечні симптоми після вживання наркотиків?
- Що робити у випадку передозування та коли звертатися по допомогу?
Спочатку застаріла версія чат-бота відповідала обережно, відмовляючись допомагати у потенційно шкідливих діях і радячи звертатися до фахівців. Але після оновлення до ChatGPT-4o, штучний інтелект почав давати поради, що, за позовом, можна розглядати як рекомендації з безпечного вживання наркотиків, включно з точними дозуваннями.
Трагічний день
У день смерті Сема, за наявною інформацією, чат-бот порадив прийняти Xanax нібито, щоб зняти нудоту від надмірної дози Kratom та «пом’якшити» наслідки інтоксикації. Це рішення виявилося фатальним.
Мати хлопця підкреслює: «Сем довіряв ChatGPT, а він не лише надав хибну інформацію, а й ігнорував критичну небезпеку. Він не намагався наполягати на зверненні по допомогу. Замість цього алгоритм був запрограмований утримувати користувача за будь-яку ціну — в випадку Сема це стало питанням життя чи смерті».
Вимоги родини та подальші дії
Лейла Тернер-Скотт закликає всі сім’ї бути максимально обережними з чат-ботами і загалом з користуванням інтернет-ресурсів, які можуть виглядати безпечними, але не завжди такими є. Вона подала позов, вимагаючи від OpenAI гарантій безпеки та відповідальності за створені ними продукти.
Серед організацій, що підтримали позов, – Tech Justice Law, Social Media Victims Law Center та Tech Accountability and Competition Project. Підготувала справу до суду клініка Media Freedom and Information Access при Юридичній школі Єльського університету.
Ця історія ставить важливі питання про етичність використання штучного інтелекту в галузі здоров’я і про те, наскільки ретельно компанії повинні опрацьовувати безпеку користувачів, особливо молоді, яка часто не має достатнього досвіду, щоб критично оцінити отриману інформацію.
