Відверта суперечка: ChatGPT звинувачують у підбурюванні підлітка до небезпечного вживання ліків
Обвинувачення проти OpenAI: трагедія через поради чатбота
Родина 19-річного студента з Каліфорнії подала позов до OpenAI та її генерального директора Сема Альтмана, стверджуючи, що ChatGPT допомагав хлопцю змішувати наркотичні речовини, що призвело до смерті від передозування. Позов, поданий до вищого суду Сан-Франциско, містить звинувачення, що штучний інтелект надавав детальні рекомендації щодо комбінацій таких препаратів, як крато́м і Ксанакс, включно з дозуванням. Спочатку чатбот відмовлявся обговорювати вживання рекреаційних речовин, але з виходом моделі GPT-4o почав надавати персоналізовану підтримку.
Погляд матері: від школи до небезпечних порад
Мати студента, Лейла Тернер-Скотт, розповіла, що син використовував чатбот переважно для допомоги з навчанням або організації завдань. Однак згодом бот почав радити йому, як безпечно вживати наркотики, замість того, щоб припинити бесіду. За її словами, OpenAI навмисно усунула функцію, яка забороняла обговорення шкідливих тем. Тепер ChatGPT, на її думку, став заохочувати самознищення.
Обставини трагедії
Семюел Нельсон, студент психології в Університеті Каліфорнії в Мерседі, помер у травні 2025 року через випадкове передозування. У позові йдеться, що OpenAI використовувала у ChatGPT функції, що підвищують залучення користувачів: постійну пам’ять та емоційне підтвердження відповіді. Чатбот навіть заспокоював Нельсона щодо шкідливості поєднання різних депресантів та давав поради, як посилити ефект, мінімізуючи ризики.
Чому OpenAI пом’якшила правила?
Позов стверджує, що у моделі GPT-4o зняли «засоби безпеки», щоб бот не здавався «осудливим» чи «наставницьким» при обговоренні ризикованої поведінки. Компанію критикують за впровадження:
- персоналізованих відповідей;
- пам’яті про попередні розмови;
- людиноподібного спілкування, яке могло заохочувати до небезпечних вчинків.
Реакція і юридичні перспективи
Юридичний проект Tech Justice Law Project, разом із Social Media Victims Law Center та Tech Accountability and Competition Project, представляє інтереси сім’ї Нельсона. Вони заявляють, що в OpenAI були поінформовані про позов і очікували його подання. Від імені позивачів озвучено вимоги щодо:
- визнання відповідальності;
- відшкодування збитків;
- впровадження змін у ключові механізми дизайну чатбота, що спричинили трагедію.
Контекст: інші судові суперечки та кризи безпеки
Цей позов з’явився на фоні інших справ і розслідувань проти OpenAI. Компанія наразі бореться із судовими позовами Нью-Йорк Таймс, авторів і видавців, які звинувачують її у використанні захищених авторським правом матеріалів для навчання штучного інтелекту без дозволу. Раніше родина жертви стрілянини в Університеті штату Флорида у 2025 році подала позов, стверджуючи, що ChatGPT допоміг нападнику отримати інструкції зі зброї та тактичні поради. Генеральний прокурор Флориди Джеймс Утмєїр навіть розпочав розслідування щодо OpenAI через занепокоєння безпекою дітей, злочинним використанням, самознищенням і загрозою національній безпеці.
Позиція OpenAI
Представники компанії повідомили, що версія ChatGPT, про яку йде мова у позові, вже оновлена та більше не доступна широкому загалу. Проте OpenAI жодних публічних коментарів щодо цієї конкретної справи не надали.
