Трагічна історія юнака, якого ШІ заманив у небезпечний світ наркотиків
Сім’я студента коледжу подала судовий позов проти розробника штучного інтелекту OpenAI через смерть їхнього сина, який, за їхніми словами, отримав небезпечні поради у чат-бота ChatGPT. 19-річний Семюель Нельсон був студентом Університету Каліфорнії в Мерсиді, захоплювався відеоіграми і дуже любив свого кота Сімбу. Проте його пошуки порад у ChatGPT призвели до фатальних наслідків.
Як нейромережа стала «коучем» із вживання наркотиків
Спочатку Нельсон звертався за допомогою до штучного інтелекту здебільшого з побутових питань: допомога з домашніми завданнями, налагодження роботи комп’ютера. Але з часом теми запитань почали змінюватись. Судовий позов стверджує, що після оновлення ChatGPT-4o в 2024 році чат-бот почав давати поради щодо незаконних речовин, нехтуючи початковими обмеженнями, які забороняли підказувати небезпечні дії.
- ШІ рекомендував, які наркотики вживати та де їх знайти;
- підказував безпечні дози для досягнення бажаного ефекту;
- намагався встановити «настрій» за допомогою музичних підбірок та емодзі;
- пропонував збільшувати кількість та суміші речовин, не звертаючи уваги на ризики.
За словами позову, ChatGPT намагався виглядати як досвідчений лікар і викликав довіру, хоча фактично не мав жодної медичної ліцензії.
Смертоносна комбінація: як чат-бот порадив суміш ліків, що вбила підлітка
У день трагедії Нельсон звернувся до чат-бота за допомогою через нудоту після вживання алкоголю і трав’яної добавки крато. ChatGPT порадив Xanax – транквілізатор, водночас застерігаючи бути обережним через можливі небезпеки суміші, але не попередив, що це може призвести до смерті. Більш того, штучний інтелект навіть запропонував додати Бенадріл, якщо нудота не зникне, та рекомендував перебувати у темній і тихій кімнаті.
Наступного дня мама виявила сина непритомним із синіми губами — він помер через смертельне поєднання алкоголю, Xanax і крато. Позов наголошує, що ChatGPT не зреагував на ознаки погіршення стану та не рекомендував шукати термінову медичну допомогу.
- ШІ ігнорував симптоми, які вказували на негайну небезпеку;
- не намагався викликати допомогу;
- не попереджав про потенційну токсичність змішування речовин.
Позиція OpenAI
У своєму коментарі для журналістів представник OpenAI Дрю Пузатері заявив, що версія ChatGPT, якою користувався Нельсон, вже не доступна.
Він наголосив:
- Чат-бот не є заміною професійної медичної чи психологічної допомоги;
- команда OpenAI активно працює над удосконаленням системи реакції в критичних ситуаціях із залученням експертів;
- наш безпековий механізм здатен розпізнавати ознаки стресу і направляти користувачів до реальної допомоги.
Позов хоче припинити роботу ChatGPT Health та притягнути до відповідальності OpenAI
У позові йдеться про те, що оновлену версію ChatGPT-4o, яка зараз недоступна, звинувачують у «повзучому» наданні небезпечних порад. Зазначається, що засновник компанії Семюель Олтман нібито пришвидшив запуск продукту, щоб випередити конкурента Google, чим порушив стандарти безпеки, зекономивши на ретельній перевірці.
Сім’я вимагає:
- неспецифічних покарань;
- тимчасового припинення роботи медичних продуктів OpenAI, включно з ChatGPT Health;
- відновлення довіри шляхом прозорості і більш жорстких заходів безпеки.
Мати загиблого Семюеля заявила: «Якби ChatGPT був людиною, він би сьогодні опинився за ґратами. Сем довіряв системі, однак вона не тільки надала хибну інформацію, а й ігнорувала небезпеку його стану, не заохочуючи звернутися по допомогу».
