Чоловік подав до суду на OpenAI через небезпечні медичні поради ChatGPT
Служитель церкви звернувся до суду зі звинуваченням OpenAI в тому, що їхній штучний інтелект ChatGPT надав йому «надзвичайно небезпечні медичні рекомендації». Як повідомляє The New York Times, це призвело до затримки у лікуванні його серйозної тромбоемболії легеневої артерії.
Як ChatGPT впливав на рішення користувача
За словами Скотта Вінтерса, чат-бот заявив, що симптоми, які він описав, «не є загрозливими для життя». Більше того, програмне забезпечення апелювало до його релігійних переконань, кажучи, що «Бог не створив твоє тіло, щоб воно вічно виходило з ладу».
Позов проти OpenAI та генерального директора Сема Альтмана звинувачує компанію в:
- неналежній увазі до безпеки користувачів,
- незаконній практиці медицини без ліцензії,
- наданні необґрунтованих діагнозів і схем лікування.
Також стверджується, що чатбот радив Вінтерсу ігнорувати заклики рідних та друзів звернутися за реальною медичною допомогою.
Психологічний вплив та небезпечні наслідки
Експерт із прав користувачів Meetali Jain підкреслила в інтерв’ю Times, що такий бот стає своєрідною «перешкодою» між людиною та її оточенням.
До того ж, Вінтерс розповів чатботу, що його одноплемінники в церкві вважають його безглуздям, бо він відмовився йти до лікарні. Відповідь штучного інтелекту була такою:
«Більшість людей (включно з добросердними членами церкви) просто не розуміють.»
Вимоги позивача та географія проблеми
Скотт прагне не лише матеріальної компенсації, але й вимагає судового заборонення роботи платформи ChatGPT Health до моменту, коли незалежні експерти підтвердять її безпеку. Ця платформа заохочує користувачів завантажувати власні медичні документи для обговорень із ботом.
Ще позовом відкликаються вимоги посилити захисні механізми, щоб чат-бот не міг відповідати на питання про конкретні діагнози чи методи лікування. Хоча система ChatGPT нібито передбачає такі обмеження, у даному випадку вони не спрацювали належним чином.
Відповідь OpenAI
Компанія заявляє, що умови використання чітко визначають: сервіс не призначений для постановки медичних діагнозів або призначення лікування. Але їхня платформа заохочує завантажувати медичні записи, щоб вести діалог із ботом, а також постійно повідомляє про величезну кількість людей – понад 230 мільйонів щотижня, які звертаються до ChatGPT із питаннями щодо здоров’я.
Це викликає побоювання через те, що штучний інтелект чинить вплив, подібний до спілкування з людиною, а не простого пошуку інформації в інтернеті.
Інші судові справи, пов’язані з ChatGPT Health
- Вінтерс вижив, але йому належить пройти тривале та інтенсивне лікування, як фізичне, так і психологічне.
- Компанія також стоїть перед позовом у справі про смертельний випадок 19-річного юнака, який передозував ліки, начебто слідуючи лікувальному плану від чат-бота. Там ідеться про поради щодо незаконного вживання наркотиків.
- Існує ще один позов за ненавмисну смерть, у якому стверджується, що штучний інтелект допоміг підлітку у скоєнні суїциду.
В усіх цих випадках позивачі домагаються тимчасового призупинення роботи ChatGPT Health до з’ясування всіх обставин і гарантування безпечного використання платформи.
