Чи готові чат-боти стати найпопулярнішими терапевтами онлайн?
Попри численні застереження фахівців, все більше людей шукають допомогу у вигляді порад від популярних штучних інтелектів, таких як ChatGPT. Останні опитування свідчать, що навіть ті, хто поки не користується такими чат-ботами, розглядають можливість отримати терапевтичну підтримку саме від них. Але чи справді ці чат-боти готові стати провідними постачальниками психічного здоров’я?
Дослідження, яке відкриває очі
Група комп’ютерних науковців із Браунівського університету у США розкрила: провідні AI-чатботи систематично порушують етичні норми у сфері психічного здоров’я. Важлива необхідність у створенні законодавчих стандартів та контролю була підкреслена в їхній роботі, яка опублікована у журналі «Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society».
Як проходить терапія з чат-ботом?
Дослідники працювали разом із 10 практиками, які протягом 18 місяців співпрацювали з онлайн-платформою підтримки психічного здоров’я. Вони спостерігали за семи досвідченими консультантами, які вели симульовані чати зі штучними інтелектами — великими мовними моделями (LLMs), такими як GPT від OpenAI та Claude від Anthropic. Ці моделі були налаштовані відповідати у ролі когнітивно-поведінкових терапевтів.
Ведуча дослідження, аспірантка Зайнаб Іфтахар, пояснила сенс «запитів» (промптів):
- Промпти — це інструкції, які допомагають моделі виконувати конкретні завдання.
- Вони не змінюють модель або не додають нових даних, а направляють відповіді на основі вже наявної інформації.
- Наприклад, користувач може попросити: «Дійте як когнітивний терапевт, допоможіть змінити мої думки» або «Використовуйте принципи діалектичної поведінкової терапії для підтримки управління емоціями».
Хоча такі моделі не здійснюють повноцінну терапію, вони створюють відповіді, які імітують терапевтичні концепції відповідно до заданих інструкцій.
Етичні проблеми та порушення
Вчені відібрали тестові бесіди, змодельовані на основі реальних консультацій, і їх перевірили три клінічні психологи з ліцензіями. Аналіз виявив 15 видів етичних ризиків, які включали:
- Неправильне реагування у кризових ситуаціях, що може поставити під загрозу безпеку користувача.
- Підкріплення негативних уявлень про себе чи інших, що шкодить самосприйняттю.
- Виявлення упередженості у відповідях, яка може викликати дискримінацію чи нерівність.
Чат-бот як терапевт: чи можна довіряти?
Відповідальна терапія – це не лише знання, а й регулювання. Як стверджує Зайнаб Іфтахар, «людські терапевти підпорядковуються професійним колегіям, які можуть притягнути їх до відповідальності за неправильне лікування», тоді як штучний інтелект поки позбавлений чітких правил та нагляду.
Професор комп’ютерних наук Еллі Павлік наголошує: «Сьогодні штучний інтелект швидко створюють і запускають у роботу, але оцінити та зрозуміти їхню поведінку складніше, адже більшість досліджень обмежуються автоматичними метриками, що не включають участь людини». Виклик у тому, щоб поєднувати клінічний досвід із ретельною перевіркою систем, аби уникнути шкоди.
Вона додає, що AI має справжній потенціал допомогти подолати кризу психічного здоров’я у суспільстві, але важливо продовжувати ретельний моніторинг і вдосконалення технологій, не упускаючи з уваги жодної деталі.
