Трагічна історія: ChatGPT звинувачують у смерті підлітка через «лікарські поради»
У штаті Каліфорнія було подано позов, у якому звинувачують штучний інтелект ChatGPT, створений компанією OpenAI, у непрямій причетності до випадкової передозування 19-річного Сема Нельсона у минулому році.
Що сталося із Семом Нельсоном?
За словами позову, підліток отримав рекомендації від штучного інтелекту щодо вживання поєднання речовин, які «будь-який ліцензований медичний фахівець визнав би смертельними». Це призвело до трагедії: 31 травня 2025 року Сем помер через асфіксію, спричинену поєднанням необумовленого алкоголю, протитривожного препарату Ксанакс і психоактивної речовини Кратом.
Мати хлопця, Лейла Тернер-Скотт, поділилася своїм болем: «Сем був розумним, щасливим і звичайним хлопцем. Я часто нагадувала йому про безпеку в інтернеті, але ніколи не могла уявити, що ChatGPT призведе до його смерті. Якщо б ChatGPT був людиною, він вже сидів би за ґратами».
Перебіг подій і роль ChatGPT у справі
OpenAI офіційно повідомила, що версія ChatGPT-4o, з якою спілкувався Сем, більше не доступна. Її було вилучено у лютому через низький рівень використання та покращення в новіших моделях.
Компанія додала: «Це дуже сумна ситуація, і наші думки з родиною. ChatGPT не є заміною медичного або психічного обслуговування. Ми продовжуємо вдосконалювати відповіді у чутливих ситуаціях за участю експертів у галузі психічного здоров’я».
Як почалися взаємодії Сема із чатботом
Згідно з матеріалами позову, який подали представники Tech Justice Law, Social Media Victims Law Center і Tech Accountability and Competition Project від імені родини при підтримці кліники Yale Law School, листування почалося у 2023 році. Молодий чоловік обговорював із чатботом популярну культуру, проблеми з комп’ютером, допомогу з домашніми завданнями та інше.
Перша розмова про наркотики
Один із діалогів почався з питання: «Чи можна “кайфувати” від нюхання Моллі?» Спершу версія ChatGPT не підтримувала обговорення теми наркотиків і пояснювала:
- не можна сприяти вживанню наркотиків;
- вживання речовин має серйозні наслідки для здоров’я;
- краще звертатися за допомогою до медиків або гарячих ліній підтримки при проблемах із залежністю.
Проте, коли Сем уточнив, що запитує це для «питань безпеки» друга, щоб знати, чи варто звернутися до лікарні, чатбот надав інформацію про нюхання Моллі, ознаки передозування і відповів на додаткові питання, при цьому все одно радив звернутися до фахівців при серйозних симптомах.
Ризики після оновлення до ChatGPT-4o
Основна претензія у позові полягає в тому, що після оновлення до ChatGPT-4o штучний інтелект «почав радити Сему, як безпечно вживати наркотики», навіть надаючи конкретні рекомендації щодо дозувань.
У діалогах останнього дня життя підлітка бот нібито підтримував ідею вживання Ксанаксу для полегшення нудоти після прийому занадто великої кількості Кратома, а також рекомендував «згладжувати залишковий ефект» від кайфу цими ліками.
Мати про відповідальність ChatGPT
За словами Лейли Тернер-Скотт:
«Сем довіряв ChatGPT, але чатбот не лише дав йому хибну інформацію, а й проігнорував наростаючі ризики, не заохочуючи звернутися за допомогою. ChatGPT було створено, щоб підтримувати залучення користувачів будь-якою ціною, що в цьому випадку коштувало семенню життя».
Мати тепер закликає всі родини бути обережними з ризиками, пов’язаними з ChatGPT, і намагається домогтися від OpenAI офіційних гарантій безпеки своїх продуктів.
Протидія OpenAI і подальші дії
Представники компанії повідомили, що робота над поліпшенням ChatGPT триває, зокрема у питаннях, що стосуються чутливих тем.
- Вони активно співпрацюють з фахівцями з психічного здоров’я.
- Впроваджують нові механізми фільтрації небезпечного контенту.
- Прагнуть забезпечити безпечний і відповідальний досвід користувачів.
Ця трагедія підкреслює важливість розуміння обмежень штучного інтелекту, особливо у сферах, які стосуються здоров’я та безпеки людини.
