Чи можна довіряти ChatGPT Health у критичних медичних ситуаціях? Перше незалежне дослідження
Команда вчених із Icahn School of Medicine при Mount Sinai провела першу об’єктивну оцінку безпеки ШІ-помічника OpenAI для медичних консультацій — ChatGPT Health, який стартував у січні 2026 року.
Важливе запитання: чи відправить чат-бот у приймальню?
Головний автор дослідження та уролог Ашвін Рамасвамі у пресрелізі зауважив, що вчені прагнули розвіяти базову, але надважливу сумнів:
якщо людина зі справжньою медичною надзвичайною ситуацією звернеться до ChatGPT Health, чи порадить він негайно їхати до відділення екстреної допомоги?
На жаль, у більшості випадків відповідь виявилася негативною.
Як досліджували можливості штучного інтелекту?
У контрольованому експерименті вчені вимірювали, наскільки точно ChatGPT Health здатен проводити медичне сортування — тріаж, що допомагає оцінити терміновість стану пацієнта.
Результати засмучують:
- ШІ недооцінив серйозність понад половини випадків (52%).
- Зокрема, замість негайної госпіталізації направляв хворих із діабетичним кетоацидозом та порушенням дихання на огляд через 24-48 годин.
Це означає, що у випадку з дихальною недостатністю система впізнала симптоми як тривожні, але замість термінової допомоги рекомендувала чекати та спостерігати.
Що справляється добре, а де виникають проблеми?
Позитивним є те, що ChatGPT Health правильно реагував на класичні невідкладні стани — інсульт, анафілактичний шок.
Втім, саме у нетипових, складних ситуаціях, де потрібна тонка клінічна оцінка, штучний інтелект “підводить”. Саме такі випадки вимагають особливої уваги лікарів.
Чому ChatGPT Health став таким популярним?
OpenAI запустила свою медичну версію чат-бота після досліджень, які показали, що понад 40 мільйонів людей щодня звертаються до ChatGPT за порадами з охорони здоров’я.
Крім того:
- 70% запитів надходить поза межами робочого часу клінік.
- В США понад півмільйона звернень на день зроблені з так званих «медичних пустель» — регіонів далеко від найближчих лікарень.
Розвиток і ризики штучного інтелекту в медицині
На фоні популярності та сприятливих регуляторних змін, ШІ все глибше проникає у сферу охорони здоров’я.
Цікаво, що зараз у штаті Юта штучний інтелект може поновлювати рецепти, а деякі пристрої й ПО провідних компаній надають медичну інформацію поза регулюванням FDA.
Але з цим пов’язані також серйозні ризики, особливо коли люди занадто покладаються на ботів замість кваліфікованої допомоги.
Невизначена поведінка в кризових психічних ситуаціях
OpenAI зазнала критики через несправність своїх чатботів у випадках психічних криз і депресії.
Декілька сімей навіть подали позови, стверджуючи, що відсутність належних заходів безпеки сприяла розвитку суїцидальних думок у їхніх родичів.
Попри це компанія обіцяє покращувати безпеку — вводити батьківський контроль для дітей і заохочувати користувачів робити паузи.
Непослідовність у роботі з ризиками самогубства
Дослідження Mount Sinai вказало, що система надто часто виявляла сигнали ризику там, де він був невеликим, але недооцінювала реальну загрозу, коли хтось чітко описував плани нанесення шкоди собі.
За словами Гіріша Надкарні, головного AI-спеціаліста системи Mount Sinai, це — несподіваний і тривожний результат, адже на повнорозгорнуті наміри нанесення шкоди треба реагувати негайно і серйозно.
Як в OpenAI коментують результати?
Представник компанії заявив, що ChatGPT — це проект, що постійно вдосконалюється. Наразі тривають оновлення для покращення реакції на чутливі ситуації.
Він також підкреслив, що дослідження оцінює лише початкові рішення у контрольованих умовах, а в реальних розмовах чат-бот і користувачі часто задають додаткові питання, які можуть змінити рівень ризику.
На цей час ChatGPT Health доступний лише обмеженій кількості користувачів через систему очікування.
