Як штучний інтелект змінює медичну сферу: переваги, загрози та захист особистих даних
Забудьте про WebMD — тепер головний спосіб отримати поради зі здоров’я серед користувачів ChatGPT. Компанія OpenAI повідомила: щодня понад 40 мільйонів людей звертаються до чатбота, щоб розібратися зі складними медичними рахунками, спростувати несправедливі страхові відшкодування або краще контролювати власне лікування.
Дослідження Gallup за лютий 2024 року свідчать, що майже 16% дорослих у США вже використовують штучний інтелект або соцмережі для пошуку медичної інформації. Тим часом, за даними на цей рік, американці винні понад 220 мільярдів доларів медичних боргів. Окрім цього, в країні відчутний дефіцит медичного персоналу: висока плинність кадрів серед медсестер-початківців та нестача понад 114 тисяч лікарів до 2028 року.
Система охорони здоров’я під тиском
Протягом минулого року приблизно половина американців відчували труднощі з оплатою медичних послуг через скорочення субсидій за законом Affordable Care Act. Не дивно, що багато хто вважає, ніби медична система в країні просто «ламінована». Водночас, широке впровадження штучного інтелекту позиціонується як ключове рішення для «перевантаженої» галузі.
Вузькоспеціалізовані медичні штучні інтелекти можуть змінити роботу з медичною візуалізацією, веденням історій хвороб чи обробкою страхових випадків. Але розробники не зупиняються на цьому — вони прагнуть, щоб штучний інтелект був доступним безпосередньо самим пацієнтам.
У січні OpenAI запустила ChatGPT Health — безкоштовне рішення для користувачів, які шукають медичну допомогу або готові завантажити свої медичні дані для аналізу чатботом.
Цифровий доктор чи загроза приватності?
ChatGPT Health пропонує користувачам завантажувати власні медичні дані для більш персоналізованого консультування. Запущений 7 січня проект, який обіцяє «надійно» об’єднувати ваші дані зі знаннями штучного інтелекту, уже наслідували інші техногіганти — Amazon та Microsoft, що представили власних AI-помічників у сфері здоров’я.
Однак не всі сприймають цю інновацію позитивно. Мелоді Дінчер, адвокатка Tech Justice Law Project, висловила занепокоєння з приводу розгалуження генеративних AI у сфері медицини, що може посилити загрози безпеці особистих даних.
Відразу після запуску ChatGPT Health вона оприлюднила різку заяву, в якій назвала це стратегічним ходом OpenAI для доступу до персональних даних, що ставить під загрозу конфіденційність тих, хто вже і так страждає. Сьогодні її організація представляє інтереси людей, які судяться з OpenAI через психічне здоров’я, пов’язане з використанням ChatGPT.
“Ви створюєте розгалужену екосистему у цій зоні без захисту HIPAA.”
Не тільки юристи звертають увагу на проблеми безпеки персональних даних. Ендрю Кроуфорд також наголошує, що у США немає цілісного федерального закону про захист особистої інформації, особливо якщо йдеться про чутливі медичні дані.
Уряд і великі технологічні компанії, як Meta та OpenAI, тиснуть на зняття регуляторних обмежень, замінюючи їх сферичними нормами, що розрізняються на рівні штатів або галузей. Наразі існують фрагментовані правила, зокрема Закон про страхування охорони здоров’я (HIPAA), який так чи інакше регулює лікувальні установи.
Що таке HIPAA і чому це не абсолютна безпека?
Закон HIPAA, прийнятий 1996 року, запровадив федеральні стандарти для захисту медичних даних та персональної інформації пацієнтів. Проте цей захист діє лише для організацій, які підпадають під чинність закону.
Ці юридичні «покриті сутності» включають страхові компанії, лікарні, деякі робочі програми страхування і навіть юридичних партнерів. Дані ж, що зберігаються або обробляються поза такими структурами, або ж у інших сервісах, не гарантують того ж рівня захисту.
Додатки здоров’я та ChatGPT Health — що не охоплює HIPAA?
Більшість популярних фітнес-додатків, таких як Oura, Apple Health чи Strava, не підпадають під дію HIPAA, як вказує HIPAA Journal. Отже, коли ви ділитеся своїми даними через ChatGPT Health або інші подібні сервіси, ви опиняєтеся у просторі, де діють виключно правила приватності самої компанії, а не закону.
Ось кілька важливих моментів, про які варто знати:
- Організації, що підпадають під HIPAA, заборонені використовувати медичні дані для реклами без вашого дозволу.
- Поза цими організаціями компанії можуть діяти згідно з власними політиками конфіденційності, використовуючи ваші дані за власним розсудом.
- У разі банкрутства або продажу бізнесу, як у випадку 23andMe, ваші дані можуть опинитися у руках третьої сторони без вашої згоди.
Враховуючи це, багато AI-компаній розділяють продукти для професіоналів охорони здоров’я, сумісні з HIPAA, і ті, що орієнтовані на простих користувачів. Наприклад, OpenAI запустила ChatGPT for Healthcare для лікарів, що забезпечує відповідність вимогам безпеки, на відміну від ChatGPT Health для широкої аудиторії.
Microsoft Copilot Health також не є HIPAA-сумісним, хоч і дотримується внутрішніх правил захисту даних. Amazon Health AI, натомість, працює під парасолькою HIPAA, будучи частиною Amazon One Medical.
Ускладнення з конфіденційністю і розпливчасті межі
Для звичайного користувача суворість правил швидко стає незрозумілою. Особливу плутанину створюють мобільні додатки, що позиціонують себе як «помічники здоров’я», а не лікувальні засоби.
Обов’язкова рекомендація для користувачів — консультуватися з лікарем, адже більшість додатків не можуть замінити професійної медичної допомоги.
З появою великих мовних моделей (LLM) ситуація ускладнюється ще більше. Ці продукти не лише збирають дані з діалогів користувачів, а й активно пропонують завантажувати медичну документацію, підключати фітнес-додатки, такі як MyFitnessPal чи Weight Watchers, а також пристрої для моніторингу стану здоров’я, як Apple Watch чи Fitbit.
Прикладами є:
- Copilot Health сумісний із понад 50 типами носимих пристроїв, включно з Oura та Fitbit.
- Amazon пропонує ранній доступ до Health AI, стимулюючи користувачів One Medical надати дозвіл на використання їх медичних записів.
- При цьому можливість вибору залишається — не потрібно надавати всі дані, але користувачі, які це роблять, отримують пріоритетний доступ.
Експерти попереджають, що середовище без надійного управління даними може сформувати величезні бази чутливої здорової інформації у руках різних компаній, що створює низку потенційних ризиків.
Право обирати: підписатися або відмовитися?
Цікаво, що ChatGPT Health не розповсюджується на користувачів у ЄС чи Великій Британії — регіонах із суворішими законами захисту споживчих даних, де потрібно однозначне “opt-in” (згода користувача).
У США ж переважає система “opt-out” — тобто відповідальність за уважність і обізнаність покладається на споживача, який повинен уважно читати умови використання й політику приватності. До того ж, деякі компанії використовують хитрі прийоми — “dark patterns”, що утруднюють розуміння правил.
Втім, на рівні штатів приймають передові норми, які посилюють захист медичних даних. Наприклад:
- Каліфорнія розширила Закон про конфіденційність медичної інформації (CMIA), що забороняє неправомірне використання чутливих даних.
- В штаті Вашингтон ухвалено закон «My Health My Data Act», який вважається одним із найжорсткіших у країні.
Саме через це регулятор FDA нещодавно заявив, що не збирається жорстко контролювати пристрої для моніторингу здорового способу життя (наприклад, фітнес-трекери), якщо вони не роблять медичних діагнозів чи рекомендацій.
Попри це, ініціатива OpenAI з розробки першого носимого AI-пристрою може ще більше змінити ландшафт цифрового здоров’я найближчим часом.
Медичні «партнери» та ризики ШІ у медицині
Відповідно до звіту некомерційної організації ECRI, чатботи з ШІ визнано однією з «найбільших загроз медичним технологіям» у період до 2026 року через можливість посилювати упередження й нерівність у доступі до допомоги.
Дослідники та журналісти називають великим викликом той факт, що такі системи поки що не в змозі повністю викорінити медичну дезінформацію. Серед останніх досліджень — лабораторний тест у Nature Medicine, який показав, що ChatGPT Health часто неправильно визначає критичність стану пацієнтів і не завжди рекомендує правильне лікування порівняно з реальними лікарями.
Крім того, розширення присутності технологічних гігантів у сфері охорони здоров’я породжує юридичні питання:
- Чи будуть правоохоронні органи вимагати у компаній доступ до приватних медичних чи чат-логів користувачів?
- Що це означатиме для людей з чутливими чи стигматизованими станами здоров’я — тими, хто шукає допомогу з репродуктивного здоров’я, абортів чи гендерно-підтверджуючого лікування?
Як зауважує адвокатка Мелоді Дінчер, ми вже звикли шукати відповіді на медичні питання в інтернеті та довіряти інтимну інформацію цифровим сервісам, але це не означає, що здоров’я можна звести лише до набору цифр на екрані.
Інформація у цій статті має виключно освітній характер і не замінює консультацію лікаря чи іншого кваліфікованого фахівця у медичній сфері. Завжди звертайтеся до професіонала при питаннях про власне здоров’я.
Примітка: Зiff Davis, материнська компанія Mashable, раніше подала позов проти OpenAI через порушення авторських прав під час навчання і функціонування штучного інтелекту.
