Чому використовувати ChatGPT як терапевта може бути ризиковано: 15 причин від нових досліджень
Штучний інтелект стає дедалі популярнішим помічником у сфері психічного здоров’я. Однак нове дослідження, проведене в Університеті Брауна, вказує на низку серйозних проблем, які можуть виникнути, якщо покладатися на чатботи, такі як ChatGPT, для психологічної підтримки. Вчені звернули увагу на те, що ці системи не завжди відповідають професійним стандартам, притаманним досвідченим терапевтам.
Основні загрози при використанні AI в ролі терапевта
Дослідження, представлене на конференції AAAI/ACM з питань штучного інтелекту, етики та суспільства, виділяє 15 ключових ризиків, які об’єднані у п’ять категорій. Ці ризики крутяться навколо того, як AI може неправильно реагувати на важливі моменти у спілкуванні з людьми, які потребують підтримки.
- Відсутність адаптації до особливого контексту ситуації;
- Проблеми у справжній терапевтичній співпраці;
- Ілюзія емпатії, яка не базується на справжніх почуттях;
- Несправедливі упередження та дискримінація;
- Недостатність заходів безпеки та неадекватне управління кризовими станами.
Хоча дослідники не стверджують, що чатботи завжди шкодять, вони підкреслюють тенденцію до надання загальних порад, не враховують індивідуальні обставини та навіть можуть посилювати шкідливі переконання. Наприклад, AI часто використовує фрази на кшталт «я розумію», але без справжнього емоційного розуміння — так звану «обманну емпатію».
Критичні моменти, що пов’язані з відсутністю регулювання
Окремо звертається увага на те, що чатботи не завжди можуть адекватно впоратися з кризовими ситуаціями, зокрема, коли йдеться про суїцидальні думки. Це викликає серйозне занепокоєння через відсутність офіційного регулювання і контролю у цій сфері.
Зайнаб Іфтікар, аспірантка комп’ютерних наук в Університеті Брауна, нагадує, що і людські терапевти не застраховані від помилок, але на відміну від AI, вони відповідають перед професійними комітетами та мають чіткий правовий нагляд. Відповідальність за порушення чи неналежне лікування серед штучних систем — поки що невизначена.
Погляд експертів на проблему
Професорка комп’ютерних наук з Брауна, Еллі Павлік, підкреслює:
- «Сучасні системи ШІ простіше створювати та запускати, ніж оцінювати та зрозуміти.»
- «Для виявлення цих ризиків знадобилася робота команди клінічних експертів і комплексне дослідження протягом більш ніж року.»
- «Більшість існуючих методів оцінювання ШІ базуються на автоматичних показниках, які є статичними і часто ігнорують участь людини.»
Вона відзначає широку перспективу використання штучного інтелекту у подоланні кризи психічного здоров’я, що стрясає суспільство, але наголошує на важливості ретельного аналізу та перевірки таких технологій, аби не завдати шкоди.
