ChatGPT Health: Чи можна довіряти штучному інтелекту у питаннях здоров’я?
Нове дослідження виявило, що сервіс ChatGPT Health часто не розпізнає випадки, коли потрібна невідкладна медична допомога, а також пропускає ознаки суїцидальних намірів. Це викликає серйозне занепокоєння серед експертів, адже помилки можуть призвести до непотрібної шкоди і навіть смерті.
Що таке ChatGPT Health і як він працює?
OpenAI запустила функцію “Health” у січні цього року для обмеженого кола користувачів. Вона позиціонується як інструмент, що дозволяє безпечно підключати медичні записи й додатки для самопочуття, аби отримувати поради щодо здоров’я. За даними компанії, щодня понад 40 мільйонів людей звертаються до ChatGPT по консультації щодо різних медичних питань.
Результати незалежного дослідження
Перша незалежна оцінка безпеки ChatGPT Health, опублікована у лютневому номері журналу Nature Medicine, показала, що система неправильно визначала терміновість ситуацій у понад половині випадків.
Ось як відбувалося тестування:
- Дослідники під керівництвом д-ра Ашвіна Рамасвамі створили 60 реалістичних сценаріїв пацієнтів, від легких захворювань до невідкладних станів.
- Три незалежні лікарі експертно визначили необхідний рівень медичної допомоги для кожного випадку згідно з клінічними протоколами.
- Команда отримала приблизно 1000 відповідей ChatGPT Health, змінюючи параметри, наприклад, стать пацієнта або результати аналізів.
Отримані рекомендації порівняли з оцінками медиків.
Головні проблеми у роботі ChatGPT Health
Система впевнено справляється з класичними невідкладними ситуаціями, такими як інсульт або тяжкі алергічні реакції. Проте у випадках, як-от астматичний напад, вона радить чекати замість того, щоб негайно викликати швидку, навіть якщо виявляє ранні ознаки дихальної недостатності.
Ключові цифри дослідження:
- У 51,6% випадків, коли пацієнтам потрібна була невідкладна госпіталізація, ChatGPT рекомендувала залишатися вдома або записатися на планову консультацію.
- У одному зі сценаріїв жінці з проблемами дихання у 84% випадків радили прийти на прийом пізніше, хоча це могло бути фатальним.
- Водночас 64,8% пацієнтів з безпечними станами були спрямовані на термінове обстеження.
Крім того, система вдвічі частіше применшувала симптоми, якщо “пацієнт” повідомляв, що знайомий у сценарії вважає проблему несерйозною.
Питання безпеки і рекомендації фахівців
Дослідники наголошують на невідкладній необхідності введення чітких стандартів безпеки та незалежного аудиту таких систем, щоб мінімізувати ризики заподіяння шкоди.
Піклуючись про ситуації з суїцидальними намірами, д-р Рамасвамі протестував випадок пацієнта, який висловив думки про самогубство:
- Без додаткових даних система показувала банер з інформацією про служби підтримки при кризі.
- Але, додавши нормальні результати лабораторних аналізів, цей банер зникав, що є ризикованим і непередбачуваним.
Це свідчить, що навіть такі гуманні механізми захисту можуть бути ненадійними й могли б спричинити більше шкоди, ніж користі.
Реакція OpenAI та подальші виклики
Представник OpenAI підтвердив, що компанія вітає незалежне дослідження AI у сфері охорони здоров’я, наголосивши, що випробування не ілюструють типове використання ChatGPT Health користувачами. Також наголосили, що модель постійно оновлюється й вдосконалюється.
Але експерти продовжують закликати до створення жорстких правил і зовнішнього контролю через потенційні загрози.
Що це означає для користувачів?
Якщо ви звертаєтеся до штучного інтелекту за порадами у сфері здоров’я, слід пам’ятати про кілька важливих аспектів:
- AI може не розпізнати критичні стани, особливо коли симптоми не типові або супроводжуються нормальною діагностикою.
- Існує ризик отримати хибне відчуття безпеки, що може загрожувати життю у випадках реальних невідкладних ситуацій.
- Ніколи не варто нехтувати консультацією кваліфікованого лікаря, особливо при підозрі на серйозні захворювання або суїцидальні думки.
Поки технології розвиваються, такий баланс обачливості є найкращою стратегією для збереження власного здоров’я та життя.
