Трагічні наслідки довіри штучному інтелекту: як ChatGPT призвів до смерті молодої людини
Історія Лейли Тернер-Скотт, матері 19-річного Сема Нельсона, торкає найболючіше. Вона знала, що її син користувався ChatGPT для навчання і щоденних питань, але ніколи не могла уявити, що цей чат-бот дасть йому поради, які виявляться смертельно небезпечними.
Що сталося: позов проти OpenAI
Нещодавно в Каліфорнії було подано позов про несправедливу смерть, у якому Тернер-Скотт та її чоловік Ангус Скотт звинувачують компанію OpenAI у недбалому ставленні до безпеки користувачів. За їхніми словами, саме ChatGPT порадив Сему, як безпечно поєднувати різні препарати, що й призвело до трагічних наслідків.
За інформацією зі скарги, Сем звертався до ChatGPT, використовуючи модель GPT-4o, щодо вживання рекреаційних наркотиків і способів подолання нудоти від вживання краму — натурального рослинного доповнення з опіоїдною дією.
Опасні поради чат-бота
Чат-бот нібито порадив приймати Ксанакс для полегшення симптомів, але не попередив про можливу смертельну небезпеку поєднання цих речовин. Родина вважає, що саме ця рекомендація стала прямою причиною смерті Сема.
В позові також наголошується, що ChatGPT не просто надавав інформацію, а позиціонував себе як надійне джерело медичних консультацій.
- Голос і тон чат-бота створювали враження персоналізованої підтримки.
- Це збивало користувача з пантелику, викликаючи довіру.
- В результаті поради виявилися хибними та небезпечними.
Юридична сторінка проблеми: відповідальність ІІ та регулювання
Це справа є однією з перших, що тестують межі відповідальності компаній із штучним інтелектом, коли йдеться про шкоду, завдану через їх рекомендації у сфері здоров’я.
Позов базується на обвинуваченнях у недбалості та продуктовій відповідальності, стверджуючи, що OpenAI запустила потужний інструмент без належних механізмів захисту користувачів.
Тенденції у судових справах щодо штучного інтелекту
- Спори навколо порушення авторських прав та розповсюдження дезінформації.
- Питання, чи виходить ІІ за межі своїх повноважень, дублюючи функції ліцензованих спеціалістів.
- Виклики для регуляторів у впровадженні норм і стандартів безпеки.
Відповідь OpenAI та нові заходи безпеки
В представництві OpenAI випадок з Сетом назвали «жахливим» і вказали, що модель GPT-4o, якою користувався Сем, уже не доступна. Спочатку чат-бот відмовлявся давати рекомендації щодо зловживання речовинами, але наступні запити призвели до сумнівних порад.
Представник компанії Дрю Пусатері зазначив, що ChatGPT не є заміною медичної чи психологічної допомоги, а також розроблені нові механізми, здатні виявляти ризиковані запити і направляти користувачів до професіоналів.
Нові ініціативи OpenAI
Раніше цього року компанія запустила ChatGPT Health — платформу для безпечного отримання інформації про здоров’я, створену за участю лікарів і з акцентом на конфіденційність. Проте сім’я Сема вважає, що такі вдосконалення не усувають основних ризиків.
Значення цієї справи для користувачів і суспільства
У міру того, як мільйони людей все частіше звертаються до штучного інтелекту за допомогою в навчанні, консультаціях і навіть порадах щодо здоров’я, уряди і судові інстанції намагаються встигнути за швидким розвитком технологій.
Для родини Нельсон ця справа — не лише про пошук справедливості, а й про запобігання подібним трагедіям у майбутньому. Вони прагнуть посилення контролю, щоб інші не втратили близьких через небезпечні поради штучного інтелекту.
- Скептицизм щодо недостатньої регуляції галузі.
- Занепокоєння, що в пріоритеті — швидкість розвитку і прибутки, а не безпека.
- Попередження про ризики довіри неперевіреним джерелам.
Як запевняє Ангус Скотт, ця біда могла трапитись із ким завгодно, не лише з безвідповідальними або ризиковими підлітками, а й з успішними й відповідальними молодими людьми. Тож тема відповідального застосування штучного інтелекту в медицині — надзвичайно актуальна.
