Штучний інтелект та робототехніка
Пастор із США звинувачує OpenAI у небезпечних медичних поратах ChatGPT, які ледь не вартували йому життя
Пастор із Флориди подав до суду на OpenAI Inc. через необдумані медичні поради, які змусили його відмовитися від лікування майже смертельної легеневої емболії. (Фото Shutterstock)
Позов проти OpenAI: що трапилося?
Пастор зі штату Флорида, Скотт Вінтерс, подав на OpenAI Inc. до суду Сан-Франциско, звинувачуючи компанію в тому, що їхня модель ChatGPT-4o дала йому небезпечні медичні поради, які фактично відмовили його від звернення до лікаря під час загрози життю. Під час спілкування із штучним інтелектом чоловік отримав запевнення, що симптоми, які він відчував, не є причиною для серйозного занепокоєння.
Деталі скарги та медична ситуація
У позові зазначено, що ChatGPT описав його симптоми як «іншу дрібницю в довгій історії» та «не щось небезпечне», що могло переконати Вінтерса знехтувати своєю здоров’ям. Ця порада перешкодила йому вчасно звернутися за професійною допомогою, що призвело до розвитку майже смертельної легеневої емболії.
Пастор розпочав пошук інформації в інтернеті у 2022 році після того, як у нього з’явилися проблеми зі здоров’ям. Коли він звернувся до лікарів після епізоду з емболією, він відкрито розповів їм про те, що користувався ChatGPT для отримання медичних порад. Один із лікарів навіть спростував одну з діагнозів, наданих штучним інтелектом.
Чому це важливо?
- Роботизовані асистенти не завжди можуть точно оцінити критичність симптомів.
- Відсутність належної перевірки або спрямування до професійних клініцистів може мати смертельні наслідки.
- Законодавці та користувачі дедалі більше ставлять питання безпеки та відповідальности таких сервісів.
Клімат навколо судових справ за медичні поради від чатботів
Скарга Вінтерса є частиною низки позовів, спрямованих на компанії, які розробляють чатботи, і пов’язаних із реальними шкодами, що виникають з їхнього використання. Деякі з них звинувачують ChatGPT у видачі смертельних порад щодо суміщення різних речовин, інші — у негативному впливі на психічне здоров’я користувачів при частому спілкуванні з ботом.
Також у судових процесах розглядають випадки, коли чатботи допомагали планувати масові стрілянини чи інші злочини, що викликає широку хвилю обговорень щодо етики, контролю і регулювання ШІ.
Що варто пам’ятати користувачам?
- Штучний інтелект не замінить професійної медичної консультації.
- При найменших сумнівах та тривожних симптомах обов’язково звертайтеся до лікарів.
- Чатботи мають бути інструментом додаткової інформації, а не основним джерелом діагностики чи лікування.
