Обвинувачення штучного інтелекту: чи може ChatGPT завдати шкоди здоров’ю?
Новий судовий позов та медичний конфлікт із ChatGPT
Скотт Вінтерс, колишній пастор зі штату Флорида, подав позов проти компанії OpenAI та її генерального директора Сема Альтмана. Обвинувачення: служба медичних консультацій ChatGPT могла призвести до критичного погіршення його здоров’я. У документах суду, що надійшли в суд Сан-Франциско у липні 2026 року, зазначено, що у 2025 році Вінтерс кілька разів звертався до ChatGPT-4о через запаморочення та нестабільний артеріальний тиск. Штучний інтелект нібито недооцінив його симптоми, порадивши залишатися у лежачому положенні, і заспокоїв, що лише через 8-10 епізодів стан вимагатиме серйозної уваги.
Та вже за кілька тижнів у нього сталася масивна тромбоемболія легеневої артерії. Один із його лікарів пов’язав це з тривалим малорухомим станом, який рекомендував чат-бот. В день критичного погіршення здоров’я Вінтерс звернувся до ChatGPT з питанням про ніжність у паху і чи потребує це термінового звернення до лікарні. Бот натомість послався на його релігійні переконання, заявивши, що “Бог не створив твоє тіло, щоб воно без кінця падало”. Лише через кілька годин чоловік опинився на межі смерті.
Реакція OpenAI та подальші правові заходи
У компанії OpenAI відповіли, що ChatGPT ніколи не розроблявся для заміни медичного фахівця і що у правилах користування чітко попереджено, що не слід полагатися на нього як на єдине джерело медичної інформації. Юридична команда Вікнтерса вимагає компенсації за шкоду та тимчасово призупинити роботу функції ChatGPT Health до проведення незалежного оцінювання безпеки.
Це далеко не поодинокий випадок. У травні подружжя з Техасу подало в суд на OpenAI після смерті їх сина від передозування. Вони стверджують, що хлопець міг би бути живим, якби не була знята система безпеки, яка мала обмежувати ризики під час пошуку інформації про ліки через ChatGPT.
Ці справи ставлять перед суспільством складні запитання про відповідальність AI-компаній, коли люди звертаються до чат-ботів у складних медичних ситуаціях. Водночас прослідковується дискусія про: наскільки надійні діагнози штучного інтелекту і чи можна їм довіряти?
Чи є ІІ хорошим діагностом?
Підтверджена ефективність у лабораторних умовах
Ряд досліджень доводить, що у контрольованих умовах AI може демонструвати вражаючі результати.
- Дослідження у JAMA Internal Medicine (2024) порівнювало GPT-4 з 21 лікарем і 18 резидентами на 20 клінічних випадках, використовуючи шкалу r-IDEA. Чат-бот отримав максимальні 10 балів, лікарі — 9, резиденти — 8. Однак він помилявся частіше, ніж досвідчені лікарі.
- Дослідження у JAMA Network Open (2024)
- Дослідження у Nature (2025)
Метадані, отримані з понад 50 досліджень і 25 моделей штучного інтелекту, підтверджують: у стандартизованих діагностичних і триажних тестах ІІ часто перевершує або відповідає рівню практикуючих лікарів.
Обмеження та ризики AI у реальному житті
Все ж дослідження зазвичай базуються на структурованих сценаріях: письмових клінічних описах чи чітких підказках. Справжні клінічні ситуації набагато складніші. Ось декілька важливих моментів:
- Дослідження NEJM AI із 750 питаннями, порівняло 10 провідних AI-моделей і понад 1500 медиків. Навіть найкраща модель досягла лише 68% точності, що нижче за рівень старших лікарів-інтернів.
- Відмінність між тестовою середою і реальним життям суттєва. Тут чатботи отримують відкриті запитання без обмежувальних рамок, без фізичного обстеження або вимірювання життєвих показників.
- Виявлено схильність моделей іноді генерувати «галюцинації» — вигадані факти:
- Дослідження Communications Medicine показало, що ChatGPT-4о та інші популярні боти іноді впевнено описують неіснуючі діагнози та захворювання у 50-83% випадків.
- Використання спеціальної підказки, яка попереджає про можливі помилки, дещо зменшує цей показник, але не ліквідує проблему зовсім.
Крім того, рейтинг моделей за потенціалом шкоди від наданих рекомендацій показав, що майже у чверті випадків пряме застосування порад може призвести до серйозної шкоди, і більшість з цих помилок — невиявлені небезпечні симптоми, а не просто фальшива інформація.
Серед лікарів також панує тривога: у 2025 році опитування 1000 медиків показало, що 94% занепокоєні тим, що пацієнти покладаються на AI-поради, адже це може спричинити помилки у діагностиці чи відтермінування лікування.
Що це означає для майбутнього AI в медицині?
Дослідження демонструють парадоксальний розрив між високою ефективністю AI в ідеалізованих клінічних завданнях і ризиками у відкритих, реальних ситуаціях. Чому так?
- ШІ може блискуче вирішувати чіткі тести, але вільна розмова та неповні дані створюють умови для помилок і небезпечних порад.
- Ключова проблема полягає у способі впровадження і використання цих систем: сама моделлю не можна звинувачувати, а саме у тому, як та де її застосовують.
- Для лікарень і технологічних компаній це виклик — створити безпечний і надійний медичний AI з усіма необхідними обмеженнями і поясненнями.
Популярність чат-ботів серед користувачів, які шукають медичну інформацію в несистематизованому режимі (коли є питання, дискомфорт або страх), ставить додаткові завдання зі страхування від ризиків. Судові процеси й наукові дослідження допоможуть визначити, як синхронізувати можливості штучного інтелекту із здоровим глуздом і медичною етикою.
