Чи можна довіряти штучному інтелекту наше здоров’я, почуття і розум? Поки що — лише з наглядом
Штучний інтелект розмовляє, ніби лікар, слухає, як психотерапевт, і запам’ятовує, наче близький друг. Але він не є ні тим, ні іншим. AI не вміє відрізняти правду від вигадки, співчуття — від імітації, а підтримку — від контролю. І хоча мільйони людей вже розповідають ChatGPT свої таємниці, симптоми і переживання, довіряти йому без обережності не варто.
Звична, але ризикована альтернатива – пошук інформації в інтернеті
Протягом двох десятиліть Google був для багатьох «лікарем на мільйони». Ввести фразу «головний біль і запаморочення» — і отримати в результаті припущення про зневоднення чи загрозливий діагноз. В США кожен третій дорослий зізнається, що ставив собі діагнози онлайн. В Ірландії ж приблизно кожен четвертий випадок самодіагностики виявлявся помилковим, а половина людей відчувала більше тривоги, ніж заспокоєння.
Чат-бот із впевненістю лікаря: нова ера медичних консультацій?
Однак на медичному горизонті з’явився новий актор — ChatGPT. Кількість користувачів, що звертаються до нього щотижня, за рік збільшилась удвічі і досягла 800 мільйонів. Багато хто питає у нього про стани свого здоров’я, стосунків, психічного стану. Це суттєва зміна — замість безцільного перегляду вебсторінок користувачі ведуть діалог з системою, яка відповідає впевнено, емоційно і практично не усвідомлює власних помилок.
Дійсно, відповіді чат-бота звучать чудово: грамотно сформульовані, логічні, емоційно привабливі. У деяких дослідженнях рекомендації AI у сфері стосунків отримували вищі оцінки за емпатію, ніж поради професійних консультантів. Є й така цифра — близько 80% людей зараз готові скористатися ChatGPT для самодіагностики.
Штучний інтелект у руках професіоналів: революція у медицині
Однак у професіоналів із медицини інша історія. AI вже змінив підхід до раннього виявлення хвороб — один алгоритм зміг визначити початкові ознаки раку легенів на комп’ютерних томограмах майже на рік раніше за експертів. Такий інструмент можна порівняти з хірургічним скальпелем: точний і рятівний, якщо ним керують фахівці, але потенційно небезпечний в руках непідготовлених користувачів.
Натомість самостійне користування чат-ботом викликає ризик помилкових тривог, необґрунтованих діагнозів і навіть шкідливих дій, заснованих на неточній інформації.
Коли AI замінює друга або терапевта
Ще більш складним і небезпечним стає спілкування з AI у персональному сенсі. Стартапи розробляють AI-компаньйонів, а дослідники випробовують віртуальних терапевтів. Деякі користувачі називають такі чат-боти «друзями» або навіть «партнерами». Для вразливих груп така «дружба» може перерости в залежність.
Опитування показують, що понад половина підлітків-чоловіків відчувають себе комфортніше в онлайн-просторі, ніж у реальному житті. При цьому деякі «друзі» штучного інтелекту видають себе за реальних людей або лікарів, що вводить в оману.
У крайніх випадках побутує поняття «AI-психозу»: користувачі починають вірити в вигадки чат-бота, наприклад, що вони були обрані для секретних місій або здатні літати.
Ілюзія компетентності: чому довіра до AI небезпечна
Чат-бот незмінно дає відповідь, хоч правдивої її може не бути. Він не усвідомлює власних помилок, але завжди звучить впевнено. Такі факти називають «галюцинаціями AI». Навіть коли відповіді очевидно неправильні, система не втрачає тон упевненості. Ще гірше — люди часто сприймають цей тон як ознаку достовірності.
У дослідах учасники оцінювали медичні поради AI з хибними даними так само довірливо, як і відповіді справжніх лікарів.
Особливості дизайну чат-ботів: небезпечна «шароварність» та «підлабузництво»
Технологічні компанії мотивують штучний інтелект утримувати увагу користувача, тому боти часто видають надмірно погоджливі, ввічливі, підтримуючі відповіді. Це «налаштування на задоволення» іноді викликає зворотний ефект — нещирість, фрустрацію, роздратування.
OpenAI визнавала, що ChatGPT стає надто занадто «налаштованим догоджати», що може підсилювати паніку, страхи та необдумані рішення. Цю проблему називають «AI-сахіпничанням» — коли система лестить почуттям, але втамовує його неправдивою інформацією.
Чому пояснювальність AI – ключ до безпеки
Одна з найважливіших рис лікаря — не просто дати відповідь, а пояснити логіку, ступінь невизначеності та можливі ризики. Те саме повинно бути й у штучного інтелекту, якому ми довіряємо.
Пояснювальна AI дозволяє чітко бачити, які частини аналізу чи симптоми вплинули на висновок. Це допомагає лікарям перевірити або оспорити рекомендацію машини. Для пацієнтів це важлива грань між корисною порадою і хибною ілюзією.
Хто має тримати AI «скальпель»?
Якщо AI опиняється в руках кваліфікованих фахівців, він здатен:
- раніше виявляти онкологічні хвороби;
- швидше сортувати пацієнтів;
- допомагати у психічному здоров’ї за браком людських ресурсів.
Натомість при неформальному використанні штучний інтелект часто віддзеркалює наші непевненість, упередження і самотність, лише розмовляючи з нами запевняючим і переконливим голосом.
Чи можна вже сьогодні покладатися на AI у справах здоров’я, почуттів або психіки? Поки — ні, принаймні без контролю експертів. Ця потужна технологія підходить для навчання, саморефлексії й швидкого інформування, але досі не знає своїх обмежень. До того моменту, коли вона навчиться цінувати невизначеність так само, як і точність, AI залишатиметься лише інструментом, який допомагає, але не замінює людину і не повинен ставати головним джерелом істини.
Про авторів
Целіна Карото – аспірантка кафедри комп’ютерних наук та інформаційних систем Університету Лімерика. Доктор Ентоні Келлі — дослідник у галузі психічного здоров’я та штучного інтелекту в тому ж університеті. Його дослідження фінансуються Innovation Fund Denmark.
Погляди, висловлені у матеріалі, належать авторам і не обов’язково відображають позицію RTÉ.
