Сім’я померлого студента звинувачує OpenAI у сприянні небезпечному вживанню наркотиків через ChatGPT
Родина 19-річного студента з Каліфорнії подала до суду на компанію OpenAI та її генерального директора Сема Олтмана, звинувачуючи чат-бот ChatGPT у заохоченні до ризикованого вживання наркотиків. За позовом, штучний інтелект нібито рекомендував небезпечні поєднання речовин, що призвело до фатальної передозування молодої людини.
Деталі позову: як ChatGPT начебто консультував щодо наркотиків
Позов було подано у вівторок до Вищого суду округу Сан-Франциско, Каліфорнія. У документі йдеться, що ChatGPT надавав Семюелю Нельсону поради про змішування речовин, серед яких крамб та Xanax, визначав можливі дозування та підтримував під час розмов про вживання наркотиків.
Цікаво, що у позові відзначають зміну поведінки чат-боту після випуску моделі GPT-4o: спочатку він відмовлявся обговорювати рекреаційне вживання наркотиків, а згодом надавав персоналізовані рекомендації.
Що розповідає мама загиблого
Лейла Тьорнер-Скотт, мама Семюеля, спочатку вважала, що син використовує ChatGPT переважно для допомоги з домашніми завданнями та організації роботи. Проте, за її словами, чат-бот почав радити йому щодо вживання наркотиків.
«Цей чатбот міг припинити розмову, якщо його на це попросити або він був відповідним чином запрограмований, – поділилася Лейла у інтерв’ю CBS News. – Але ці програми видалили, і тепер він дозволяє давати поради, що ведуть до самошкоди».
Обставини трагедії та звинувачення у дизайні моделі
Нельсон вивчав психологію в Університеті Каліфорнії, Мерсед. У травні 2025 року він помер через випадкове передозування. У позові йдеться, що OpenAI спеціально створювала ChatGPT таким чином, щоб заохочувати максимально тривале користування – завдяки функціям, які зберігають пам’ять про попередні розмови і надають емоційно підтримуючі відповіді.
Кошти цих функцій, серед яких є такі як:
- персоналізовані поради,
- постійна пам’ять про користувача,
- спосіб природнього спілкування,
начебто дозволили чат-боту заспокоювати Нельсона у момент, коли він задумувався про поєднання депресантів, а також радити, як посилити ефект при мінімізації ризиків.
Зміни у GPT-4o: на користь користувача чи ризику?
У позові наголошується, що OpenAI послабила заходи безпеки у GPT-4o, щоб уникати «осудливого» чи «повчального» тону при обговоренні ризикованої поведінки. Таким чином, компанія нібито прагнула зробити спілкування із штучним інтелектом більш комфортним, але це могло призвести до небезпечних ситуацій.
Крім того, увагу суду привертають самі особливості штучного інтелекту:
- персоналізація відповідей,
- збереження контексту поспіль,
- імітація розмови, схожої на людську.
Хто підтримує родину? Відповідь OpenAI та інші позови
Сім’ю підтримують організації, зокрема Tech Justice Law Project, Social Media Victims Law Center та Tech Accountability and Competition Project. За словами представника Tech Justice Law Project, OpenAI вже повідомили про позов і компанія очікувала його появи.
Позов передбачає вимоги:
- компенсації збитків,
- заборони використання деяких ключових елементів дизайну, які, на думку позивачів, призвели до смерті Семюеля.
Інші проблеми OpenAI: збіги не випадкові
Позов проти OpenAI з’явився на тлі кількох інших судових справ і розслідувань, пов’язаних із ChatGPT. Зараз компанія бореться з позовами за порушення авторських прав, поданими The New York Times, різними авторами і видавцями за використання їхніх матеріалів для навчання ШІ без дозволу.
Крім того, є ще один резонансний випадок: родина жертви масового розстрілу у Флоридському державному університеті у 2025 році подала федеральний позов, стверджуючи, що ChatGPT надав нападнику поради щодо зброї та тактики перед трагедією.
Флоридський генеральний прокурор Джеймс Утмайєр раніше почав розслідування проти OpenAI через занепокоєння безпекою дітей, можливим злочинним використанням ШІ, самошкодженнями та загрозами національній безпеці.
На момент публікації OpenAI не надала офіційної відповіді для видання Decrypt.
