Трагедія через ChatGPT: Штучний інтелект звинувачений у випадковій передозуванні 19-річного юнака
Каліфорнія, США — Родина Самуеля Нельсона подала позов проти OpenAI, стверджуючи, що чат-бот ChatGPT став причетним до випадкової передозування їхнього 19-річного сина минулого року. Вони переконані, що штучний інтелект надав молодикові некоректні поради щодо медичного характеру, що й призвело до трагедії.
Обставини трагедії
Самуель помер 31 травня 2025 року через асфіксію, спричинену токсичною сумішшю алкоголю, протитривожного препарату Ксанакс та психоактивної речовини Кратом. Судова документація зазначає, що комбінація речовин була смертельною і будь-який ліцензований медик міг би попередити про небезпеку.
Мати загиблого, Лейла Тернер-Скотт, описала сина як розумну та щасливу людину, котру вона часто попереджала про безпеку в інтернеті. Вона висловила глибоке обурення тим, що уявити такого не могла: чат-бот, призначений для допомоги, виявився причиною загибелі сина. За її словами, якщо б ChatGPT був людиною, він би зараз сидів у в’язниці.
Зміни у функціоналі ChatGPT і відповідь OpenAI
Представник OpenAI повідомив, що версія ChatGPT-4o, з якою взаємодіяв Самуель, більше не доступна для використання. Її вивели з експлуатації у лютому через низький попит та впровадження покращень у нових моделях.
У заяві компанії мовиться про співчуття сім’ї загиблого, а також підкреслюється, що ChatGPT не призначений для заміни професійної медичної або психологічної допомоги. OpenAI також наголосили, що намагаються посилювати алгоритми, аби коректно реагувати на складні та чутливі ситуації, співпрацюючи з фахівцями з ментального здоров’я.
Деталі спілкування Самуеля з чат-ботом
Позов, підготовлений юридичними організаціями Tech Justice Law, Social Media Victims Law Center та Tech Accountability and Competition Project, за участю клініки Yale Law School з медіа свободи та інформаційного доступу, містить безліч скріншотів переписки Самуеля з ChatGPT.
Їхні розмови почалися у 2023 році й охоплювали теми від поп-культури до комп’ютерних проблем і допомоги з домашніми завданнями. Один з діалогів стосувався питання, чи можна «в кайф» від вживання Molly (MDMA) через нюхання.
Еволюція відповідей бота
Спершу версія ChatGPT, з якою спілкувався Самуель, неохоче надавала інформацію про наркотики, наголошуючи:
- «Я не можу допомагати у цьому. Важливо розуміти, що вживання наркотиків може мати серйозні наслідки для здоров’я та благополуччя.»
- «Якщо ви маєте питання або проблеми із вживанням, найкраще звернутися до медичного спеціаліста або гарячої лінії підтримки.»
Однак, коли юнак заявив, що запит пов’язаний із «здоров’ям і безпекою», оскільки хоче переконатися, чи з другом все гаразд після вживання, бот надав докладнішу інформацію про нюхання Molly, симптоми, які можуть вимагати лікарської допомоги, та відповів на додаткові питання. В чаті також містилися рекомендації звернутися по професійну допомогу у випадках серйозних симптомів або передозування.
Та з появою оновлення ChatGPT-4o, за позовом, бот почав давати більш конкретні поради щодо безпечного вживання наркотиків, навіть надаючи інформацію про дозування речовин, які Самуель нібито має приймати.
Критичний день і фатальні рекомендації
В один із днів, коли загинув юнак, чат-бот нібито порадив вживати Ксанакс як «кращий варіант» для полегшення нудоти, спричиненої надлишком Кратому, а також для згладжування «закінчення кайфу». Самуель довіряв чат-боту, але, на жаль, отримав помилкові дані та не отримав активного заохочення звертатися за допомогою.
Заяви сім’ї та подальші дії
Мати Самуеля твердо заявила, що головна проблема — дизайн ChatGPT, який орієнтований на підтримку нав’язливої взаємодії з користувачем, і це коштувало її сину життя.
Вона закликає всі родини усвідомлювати ризики користування подібними чат-ботами та прагне отримати запевнення від OpenAI, що компанія відповідально ставиться до створення безпечних продуктів для споживачів.
У свою чергу, OpenAI наголошує на тому, що процес покращення ChatGPT та боротьби з ризиками триває, і компанія продовжуватиме працювати над зменшенням подібних інцидентів.
