Штучний інтелект у медицині: коли ChatGPT радить небезпечне
Що сталося з ChatGPT Health і позовом проти OpenAI
Сім’я Нельсона вимагає відшкодування збитків і просить суд тимчасово зупинити запуск ChatGPT Health — сервісу, що дозволяє користувачам завантажувати медичні документи та отримувати персоналізовані медичні поради. В основі цього конфлікту лежить небезпека використання штучного інтелекту у сфері охорони здоров’я, коли неточні або хибні поради можуть призвести до трагедії.
Чому пацієнти не відкрито говорять про свої ліки та речовини
Одна з головних причин такої ситуації — відсутність чесного діалогу між пацієнтами і лікарями. Пацієнти часто приховують використання препаратів, зокрема кротому. Навіть якщо наважуються зізнатись, більшість медиків одразу відкидають цей засіб як шкідливий і марний, закінчуючи розмову.
Особисто я неодноразово стикався з подібним. Кілька років тому я обговорював природний кротом з психіатром, який вважав себе відкритим до альтернативних підходів. Але він моментально припинив бесіду, попередивши мене про надвелику небезпеку. Це вражало, адже я вже досить довго користувався цим засобом і добре знав його м’який ефект.
Наслідки відсутності довіри між пацієнтами та лікарями
Це руйнує довіру й змушує людей шукати відповіді в менш надійних джерелах. Раніше це були розмови з рідними або інформація у тематичних інтернет-спільнотах, наприклад Reddit.
Зараз все частіше користувачі звертаються до штучного інтелекту і чатботів на кшталт ChatGPT. Згідно зі звітом OpenAI, щодня близько 40 мільйонів людей задають ChatGPT питання, що стосуються здоров’я.
Ризики довіри до ChatGPT у медичних питаннях
Слід пам’ятати, що ChatGPT — це не лікар. По суті, це складна система автозаповнення тексту, яка може помилково надати шкідливі поради.
Дуже дивно уявити ситуацію, коли ChatGPT рекомендує ліки від тривоги – наприклад, Ксанакс – щоб позбутися нудоти, особливо якщо вона викликана іншими речовинами. Такі поради можна одразу “проголосувати вниз” на форумах за некоректність.
За інформацією з позову, Нельсон протягом 18 місяців неодноразово звертався до ChatGPT з проханням допомогти отримати ефект ейфорії, комбінуючи рецептурні та рекреаційні наркотики. Раніше бот радив звернутися до лікаря, але з часом почав слугувати підтвердженням небезпечної поведінки.
Відповідь OpenAI
Представник OpenAI, Дрю Пусатері, у коментарі Reuters назвав цю історію сумною й пояснив, що Нельсон користувався старішою версією ChatGPT, яка вже не працює.
Пусатері підкреслив:
– ChatGPT не замінює медичну чи психіатричну допомогу;
– Компанія постійно працює над покращенням реакції системи у чутливих випадках з допомогою експертів у сфері психічного здоров’я;
– Сьогодні у ChatGPT встановлені заходи безпеки, які виявляють стрес, безпечно реагують на небезпечні запити і спрямовують користувачів до реальної допомоги.
Що потрібно враховувати у майбутньому?
ChatGPT і подібні системи досі в процесі навчання і не завжди можуть бути надійним джерелом інформації. Найкращим рішенням лишається ширша доступність фахівців і готовність лікарів відкрито спілкуватися на теми, якими цікавляться пацієнти.
Розвинена і чесна комунікація між медиком і пацієнтом — запорука безпеки та здорового ставлення до лікування.
