Чоловік позивається до OpenAI через неправильні медичні поради ChatGPT-4
55-річний чоловік на ім’я Скотт Вінтерс подав позов проти компанії OpenAI та її генерального директора Сема Олтмана. Основна претензія полягає в тому, що ChatGPT-4 применшив серйозність симптомів, які він описував чат-боту, та надав йому хибні вказівки щодо лікування.
Обставини справи: від консультацій до госпіталізації
У позові, який подано до Вищого суду штату Каліфорнія, Вінтерс стверджує, що ChatGPT надав «конкретні рекомендації» з «авторитетним тоном». Йому радили поєднувати лікарські препарати та впевнено переконували, що звернення до лікаря не лише зайве, а іноді може бути навіть небезпечним для життя.
Втім, пізніше чоловіка було госпіталізовано через небезпечну для життя тромбоемболію легеневої артерії — скупчення кров’яних згустків у легенях. За даними позову, один із його лікарів категорично відкинув діагноз від штучного інтелекту, що нібито була «поломка нервової системи», визначивши його як «повну неправду».
Як відреагувала OpenAI на позов
У своєму офіційному коментарі OpenAI наголосила:
- ChatGPT — це не лікар і не може замінити професійну медичну діагностику чи лікування.
- Використання чат-ботів як єдиного джерела для ухвалення медичних рішень спрощує значно складнішу проблему.
Таким чином, компанія вказала на те, що продукт має слугувати радше допоміжним інструментом, а не заміною кваліфікованій медичній допомозі.
Думки медичних експертів про роль ШІ у діагностиці
Доктор Скотт Коен, головний медичний інформаційний офіцер медичної мережі Bassett Healthcare, підкреслив реальні ризики, пов’язані із застосуванням штучного інтелекту для постановки діагнозів:
- Невірні діагнози та до того ж шкідливі рекомендації можуть завдати значної шкоди пацієнтам.
- ШІ корисний, зокрема, у медичних дослідженнях і пропонуванні варіантів, але не варто використовувати його для первинної діагностики.
- Пацієнтам радять обговорювати потенційні діагнози зі своїми лікарями, а не повністю довіряти чат-ботам.
Коен чітко заявив, що поки що штучний інтелект слід застосовувати здебільшого для допоміжних цілей та в дослідницьких проєктах. Для прямої постановки діагнозу його використовувати не варто.
Вимоги позивача та подальші кроки
Скотт Вінтерс наразі вимагає відшкодування матеріальних збитків, завданих неправильними порадами штучного інтелекту. Окрім цього, він звернувся до суду з проханням тимчасово зупинити роботу нового продукту OpenAI — «ChatGPT Health», доки незалежні експерти не підтвердять його безпеку для користувачів.
Таким чином ця справа піднімає важливі питання щодо обмежень і правил використання ШІ у сфері охорони здоров’я та безпеки пацієнтів.
