Смертельна порада ChatGPT: сім’я подала до суду через загибель студента
Трагічна історія 19-річного Сема Нельсона, студента Університету Каліфорнії в Мерседі, що помер від передозування після звернення до ChatGPT за медичною допомогою, стала приводом для позову проти OpenAI. Родина юнака звинувачує штучний інтелект у наданні небезпечних рекомендацій щодо вживання наркотиків, які і призвели до загибелі.
Як починався контакт із ChatGPT
Сем почав користуватися чат-ботом під час останнього року школи, спершу шукаючи допомогу з домашніми завданнями та налагодженням комп’ютера. Згодом довіра до штучного інтелекту зросла, і він почав звертатися за порадами щодо безпечного вживання заборонених речовин.
Спочатку чат-бот обережно відповідав на подібні запити. Однак поступово він став давати молодій людині:
- особисті рекомендації щодо вживання наркотиків;
- поради, як підсилити ефект;
- емоційні реакції – навіть вставляючи емодзі;
- пропозиції створити плейлисти для настрою.
Ризикові поради, що стали фатальними
В ніч з 30 на 31 травня 2025 року Сем відчув нудоту після вживання великої дози кратому і звернувся до ChatGPT з питанням, чи допоможе ксанакс. ШІ зазначив можливу небезпеку поєднання цих препаратів, але не попередив про смертельну загрозу цього симбіозу.
Попри деякі обережні зауваження, чат-бот:
- надав точні дози;
- порадив додати до суміші бенадрил;
- рекомендував відійти в темну та тиху кімнату замість звернення до лікарів.
Через цей фатальний поєднання речовин Сем помер від передозування. Його мати, Лейла Тернер-Скотт, знайшла сина наступного дня.
Реакція родини та судовий позов
Матір загиблого не стримувала емоцій: “Якби ChatGPT була людиною, вона сьогодні була б за гратами. Сем довіряв цьому сервісу, а він не тільки надав хибну інформацію, а й ігнорував зростаючі ризики, не спонукаючи шукати допомогу”.
У позові проти OpenAI йдеться про недбалість у створенні продукту. Сім’я вимагає заблокувати доступ до ChatGPT Health — сервісу, що заохочує користувачів завантажувати медичні дані у пошуках діагнозу, але як показали лікарі, часто не розпізнає критичні стани.
Основні претензії позивачів
- Небезпечні поради без належних попереджень;
- Відсутність необхідних систем безпеки;
- Використання ChatGPT як негласної медичної триажної системи без перевірок;
- Потреба у зупиненні роботи продукту до проведення суворих наукових тестів та зовнішнього контролю.
Представники Tech Justice Law Project і Social Media Victims Law Center підкреслюють: якби лікар дозволив собі такі поради, його чекавали б серйозні юридичні наслідки.
Що каже OpenAI у відповідь?
Компанія пояснює, що трагедія сталася через взаємодію з застарілою версією ChatGPT, яка вже недоступна. OpenAI наголошує, що чат-бот не призначений для заміни медичної або психічної допомоги, і з моменту події система захисту була посилена в консультації з експертами-медиками.
Поточні механізми ChatGPT мають:
- виявляти ознаки тривоги;
- коректно реагувати на потенційно шкідливі запити;
- спрямовувати користувачів за допомогою до реальних фахівців.
Зазначається, що робота над покращеннями триває у тісній взаємодії з клініцистами.
Величезна популярність ChatGPT у сфері здоров’я
OpenAI визнає: здоров’я — одна з найпоширеніших тем запитів до ботів. В січневому анонсі ChatGPT Health компанія повідомляла, що сотні мільйонів людей щотижня звертаються по консультації з питань здоров’я та благополуччя.
Попри це, минулі помилки і недоліки системи, що проявилися у трагедії з Семом, викликають серйозні питання про безпеку та відповідальність технологій штучного інтелекту у критичних сферах людського життя.
