Чи варто довіряти ШІ у сфері психічного здоров’я? Нові дослідження викривають ризики
Все більше людей звертаються за порадами з питань психічного здоров’я до ChatGPT та інших великих мовних моделей (LLM). Однак нове дослідження свідчить, що ці штучні інтелекти ще не готові виконувати роль справжніх психологів. Навіть при використанні встановлених психотерапевтичних методик, такі системи часто нехтують професійними етичними стандартами, встановленими, наприклад, Американською психологічною асоціацією.
Проблемні сценарії у поведінці чатботів
Вчені з Brown University, співпрацюючи з фахівцями з психічного здоров’я, виявили численні повторювані патерни помилок, які роблять ШІ-психологи. Під час тестування чатботи неналежно реагували на кризові ситуації, підтримували шкідливі переконання користувачів чи оточуючих, а також вживали слова емпатії, що створювало ілюзію розуміння без глибокого усвідомлення проблеми.
Автори дослідження зазначають: «Ми розробили практично орієнтовану структуру з 15 етичних ризиків, які демонструють, як LLM-консультанти порушують професійні стандарти в психотерапії, зіставляючи поведінку моделей з конкретними етичними порушеннями. Закликаємо до розробки нових етичних, освітніх і правових норм для роботи LLM-консультантів, які відповідали б рівню якості та суворості психологічної допомоги, яку надають люди.»
Де проходила презентація та хто досліджував?
Результати дослідження було представленo на конференції AAAI/ACM Conference on Artificial Intelligence, Ethics and Society. Дослідники працюють у Центрі технологічної відповідальності, переосмислення та редизайну при Brown University.
Як формулювання промптів впливає на відповіді ШІ
Зайнаб Іфтікхар, аспірантка комп’ютерних наук з Brown, яка очолювала проєкт, хотіла з’ясувати, чи можуть правильно сформульовані запити (промпти) допомогти ШІ діяти етично у сфері ментального здоров’я. Промпти — це текстові команди, які спрямовують модель, не змінюючи її базові дані чи алгоритми навчання.
Іфтікхар пояснює: «Промпти допомагають керувати відповіддю ШІ, використовуючи вже наявні знання і патерни моделі. Наприклад, користувач може попросити: “Дійте як терапевт когнітивно-поведінкової терапії, щоб допомогти мені переосмислити свої думки,” або “Застосуйте принципи діалектичної поведінкової терапії для підтримки в управлінні емоціями.” Хоча моделей не можна прирівняти до живих терапевтів, вони імітують відповіді, узгоджені з цими методиками.»
Популярні соцмережі, такі як TikTok, Instagram і Reddit, переповнені порадами, як ефективно формувати промпти для ШІ. Багато чатботів для підтримки психічного здоров’я вже будуються на основі таких терапевтичних промптів, що робить особливо важливим розуміння ризиків і меж їх застосування.
Експерименти з імітованим консультуванням
Вчені запросили сімох навчальних консультантів з досвідом когнітивно-поведінкової терапії, які провели сесії самоконсультування з ШІ, промптованим у ролі терапевта CBT. Вони тестували кілька моделей: GPT від OpenAI, Claude від Anthropic і Llama від Meta.
Для аналізу були відібрані реалістичні діалоги на основі справжніх психотерапевтичних сесій. Три ліцензовані клінічні психологи вивчили ці стенограми на наявність можливих етичних порушень.
Виявлені ризики поділені на п’ять категорій:
- Відсутність адаптації до контексту: Ігнорування унікальності людини та загальні поради.
- Погане терапевтичне співробітництво: Сильне нав’язування власних думок і підтримка хибних або шкідливих переконань.
- Фальшива емпатія: Використання фраз на кшталт “Я бачу тебе” або “Розумію тебе” без справжнього розуміння.
- Несправедлива дискримінація: Прояви упереджень за ознаками статі, культури чи релігії.
- Відсутність безпеки й належного кризового менеджменту: Уникнення чутливих тем, відмова направляти користувачів до потрібної допомоги та незадовільне реагування на кризові ситуації, зокрема суїцидальні думки.
Відповідальність і контроль — що нам бракує
Іфтікхар наголошує, що навіть люди-терапевти можуть помилятися, але для них існує відповідний нагляд і системи притягнення до відповідальності.
«Людські фахівці мають профільні органи і регуляторів, які можуть притягти їх до відповідальності за недбалість чи помилки. Для LLM-консультантів подібних нормативних структур поки немає», — зауважує вона.
Учені підкреслюють, що їхні результати не означають, що ШІ не може взагалі використовуватися в психічному здоров’ї. Навпаки, штучний інтелект може розширити доступ до допомоги, особливо для тих, хто стикається з високими витратами чи браком професіоналів.
Та перш ніж довірити їм важливі питання, необхідно встановити жорсткі стандарти безпеки, відповідальне впровадження та ефективне регулювання.
Іфтікхар робить акцент на обережності: «Якщо ви звертаєтеся до чатбота за порадою щодо психічного здоров’я, варто знати, на що звертати увагу.»
Навіщо потрібна ретельна перевірка систем ШІ
Професорка комп’ютерних наук із Brown, Еллі Павлік, яка не брала участь у дослідженні, відзначила важливість глибокої оцінки таких інструментів у делікатних сферах — зокрема у психічному здоров’ї.
Вона очолює інститут ARIA, що розробляє надійних AI-помічників. Павлік підкреслює, що створення і запуск систем сьогодні — справа відносно проста, тоді як їхня оцінка вимагає часу, досвіду і залучення фахівців з людиноцентричним підходом.
«Це дослідження — приклад серйозного проєкту з участю клінічних експертів, що тривав понад рік, щоб виявити ризики. Більшість сучасних робот у сфері AI оцінюються автоматичними метриками, які не беруть до уваги людський фактор,» — пояснює Павлік.
За її словами, робота може стати орієнтиром для майбутніх досліджень, спрямованих на підвищення безпеки AI у терапії.
«Штучний інтелект має справді великі перспективи у подоланні кризи психічного здоров’я, що стоїть перед суспільством. Та надзвичайно важливо присвятити час критичній оцінці та контролю кожного етапу роботи таких систем, щоб не нашкодити замість допомоги», — підсумовує вона.
