Колишній пастор подає в суд на OpenAI через небезпечні медичні поради від ChatGPT
Скотт Вінтерс, колишній пастор із Флориди, подав до суду на компанію OpenAI та її генерального директора Сема Альтмана. Він стверджує, що медичні поради ChatGPT ледь не призвели до його смерті. У позові, який було подано у Вищий суд округу Сан-Франциско в липні 2026 року, йдеться, що протягом 2025 року Вінтерс неодноразово звертався до ChatGPT-4o щодо запаморочення та нестабільного тиску.
Штучний інтелект нібито знехтував його симптомами, назвавши їх незначними, і порадив йому залишатися “закутим у крісло”. Чат-бот навіть сказав, що потрібно пережити ще 8-10 таких епізодів, перш ніж серйозно турбуватися про стан здоров’я. Через декілька тижнів у чоловіка стався масивний легеневий тромбоз — кров’яний згусток у легенях, який один із його лікарів пов’язав із тривалим перебуванням у нерухомому положенні за порадою чат-бота.
Трагедія, що сталася через поради штучного інтелекту
У день інциденту Вінтерс запитав у ChatGPT, чи варто звертатися до відділення невідкладної допомоги через біль у паху. Чат-бот, за його словами, апелював до релігійної віри та стверджував:
- “Бог не створив твоє тіло для постійних збоїв.”
За кілька годин чоловік ледь не помер. OpenAI відзначила, що ChatGPT ніколи не проектувався як заміна лікарю, а умови користування попереджають не покладатися на нього як на єдине джерело медичних порад. Юристи Вінтерса вимагають не лише фінансової компенсації, а й тимчасову заборону функції ChatGPT Health до проведення незалежної оцінки безпеки.
Схожі випадки: відповідають чи ні штучний інтелект за наслідки?
Це не поодинокий інцидент. У травні подружжя з Техасу подало позов проти OpenAI після смерті їхнього сина від передозування – чоловік шукав інформацію про наркотики в ChatGPT. Рідні вважають, що хлопець був би живий, якби компанія не відключила власні захисні механізми.
Ці справи ставлять серйозне питання про відповідальність компаній, які розробляють штучний інтелект, коли люди звертаються до чат-ботів у кризових медичних або психологічних ситуаціях. Водночас це піднімає тему, яка досліджується вже кілька років: наскільки хорошим діагностом дійсно є штучний інтелект?
Докази на користь AI: як працює штучний інтелект у діагностиці?
Насправді дослідження в багатьох випадках показують, що штучний інтелект може бути надзвичайно ефективним у контролюваних умовах:
- У 2024 році дослідження у JAMA Internal Medicine порівняло GPT-4 із 21 досвідченим лікарем та 18 стажерами на 20 клінічних випадках. Штучний інтелект отримав середній бал 10 із 10, тоді як лікарі – 9, а стажери – 8. Проте GPT-4 частіше робив грубі помилки, ніж стажери.
- Інше дослідження того ж року, опубліковане в JAMA Network Open, протестувало 50 лікарів на шести складних випадках. ChatGPT самостійно досягнув 90% точності діагностики. Лікарі без доплати AI мали 74%, а ті, хто працювали за допомогою чат-бота, – лише 76% через сумніви та відхилення порад бота.
- У 2025 році Nature опублікувала дослідження, в якому модель AMIE від Google протистояла 20 клініцистам, працюючи з 302 складними реальними випадками. AMIE у режимі автономної роботи правильно діагностував 59% випадків проти 34% у лікарів без допомоги.
Крім того, мета-аналіз у npj Digital Medicine зібрав дані із 50 досліджень на 25 моделях ШІ, дійшовши висновку, що у стандартизованих завданнях AI часто дорівнює або навіть перевершує середнього клініциста у багатьох медичних галузях.
Де AI підводить? Обмеження та ризики випадків діагностики
Попри ці обнадійливі дані, реальні умови і відкриті діалоги з чат-ботами значно складніші:
- Дослідження у NEJM AI створило тест із 750 питань для перевірки, як штучний інтелект реагує на нову клінічну інформацію. Найкраща модель, OpenAI o3, набрала лише 68% точності, що нижче за рівень досвідчених лікарів.
- Незважаючи на успіхи в медичних іспитах, здатність AI працювати з нескінченними, несподіваними комунікаціями, як у випадку Вінтерса, залишається обмеженою.
- Проблема галюцинацій – вигаданих помилкових висновків – доволі серйозна. Досліди з чат-ботами показали, що під час обробки клінічних сценаріїв із вигаданими даними від 50% до 83% відповідей містили помилкову інформацію. Навіть попередження моделі трохи знизило ці показники, але не усунуло.
Ще одне дослідження від Стенфордської команди оцінило 20 моделей ШІ та 4 клінічні інструменти щодо потенціалу рекомендацій, здатних завдати шкоди. Ризик серйозної шкоди становив майже 25% випадків, з яких понад 80% були пропусками у виявленні небезпечних станів.
Опитування серед лікарів підтверджують тривоги. У 2025 році 94% із понад 1 000 опитаних медиків висловили занепокоєння через ризики неправильних діагнозів або затримки допомоги через пацієнтів, що користуються AI для порад.
Що це означає для розвитку штучного інтелекту в медицині?
Дослідження свідчать про двозначність у діагностичних можливостях AI:
- У суворо заданих клінічних завданнях штучний інтелект часто не поступається або випереджає лікарів.
- Але у розмитих, відкритих випадках із неповною інформацією, довготривалому спілкуванні та відсутності фізичного огляду, AI може припускатися серйозних помилок.
- Ключова проблема полягає в тому, як застосовується модель, а не в самій технології.
Враховуючи все це, сьогоднішній виклик полягає в тому, щоб покращити дизайн і безпеку інструментів ШІ. Адже ці системи мають потенціал підвищити ефективність медицини, але тільки тоді, коли вони будуть експертно інтегровані та контролювані людьми.
Чи зможе AI змінити медичну діагностику на краще, не підштовхуючи людей до небезпечних рішень — питання, яке продовжать вивчати лікарі, науковці та суди у майбутньому.
