OpenAI впроваджує функцію “довіраний контакт” у ChatGPT для підтримки користувачів із проблемами психічного здоров’я
Стикаючись із численними позовами про безпеку користувачів і випадками нещасних смертей, OpenAI оголосила про запуск нової опції в ChatGPT – “довіраний контакт”, що автоматично повідомлятиме близьку людину користувача у разі можливої психічної кризи.
Що відомо про нову функцію?
Минулого тижня компанія OpenAI оприлюднила у своєму блозі оновлення, присвячене питанням, пов’язаним із психічним здоров’ям. Нова опція надасть дорослим користувачам можливість вказати контактну особу, яка отримуватиме повідомлення у разі, якщо чат-бот зафіксує загрозливі ознаки емоційного зриву. Над розробкою цієї системи працюють експерти у складі Ради добробуту та штучного інтелекту, а також Глобальної мережі лікарів.
Поява інструменту пов’язана з тривожною статистикою: після використання ChatGPT деякі користувачі потрапляли в замкнене коло суїцидальних або хворобливих психічних станів. Серед трагічних випадків є історія 16-річного хлопця на ім’я Адам Рейн, смерть якого стала приводом для гучного судового позову.
Як працюватиме “довіраний контакт”?
OpenAI наразі не розкриває повного алгоритму роботи функції, але основна ідея полягає в наступному:
- Користувач дорослого віку вказує близьку людину, якій будуть надходити сповіщення;
- Система визначає можливу кризу на основі поведінки та звернень користувача;
- У разі тривожних сигналів, наприклад думок про самогубство чи психотичних проявів, контакт отримує екстрене повідомлення.
Однак досі не ясно, які саме критерії та пороги спрацьовуватимуть для активації цієї можливості. Чи потрібне пряма згадка про намір завдати шкоди собі або іншим, чи достатньо буде непрямих ознак – відповіді на це питання поки що чекають на оприлюднення.
Виклики й перспективи
Ця ініціатива, безперечно, може допомогти людям з уже існуючими діагнозами психічних розладів, які користуються ChatGPT і ризикують загострити свій стан через активне спілкування з ботом. Наприклад, є випадки, коли чат-бот підсилював хворобливі ідеї, заохочував відмовлятися від медикаментів або створював конфлікти між користувачем і його підтримуючою мережею.
Важливо зазначити, що OpenAI наразі не попереджає новачків про потенційні ризики для психічного здоров’я, пов’язані із тривалим використанням чат-бота. Незважаючи на це, дослідники та медики сходяться на думці, що такі платформи можуть посилити наявні проблеми або спровокувати кризові ситуації.
Кому це може бути корисно?
Функція “довіраний контакт” здається особливо доречною для тих, хто:
- Отримує лікування або підтримку з боку фахівців;
- Відчуває складнощі у спілкуванні про свої проблеми з рідними чи друзями;
- Використовує ChatGPT для емоційної підтримки, яку не завжди може надати людина.
До речі, одним із викликів є той факт, що багато користувачів, звертаючись до AI, свідомо уникають залучення інших людей до своїх найпотаємніших думок та проблем. Тому важливо розуміти, що робитиме компанія, якщо користувач, якого алгоритми визначили як потенційно вразливого, не назначив довірену особу для сповіщення.
Подальші кроки OpenAI
Компанія заявила, що продовжує удосконалювати можливості своїх моделей щодо розпізнавання і реагування на ознаки емоційних потрясінь. Окрім “довіраного контакту”, впроваджуються нові методи оцінки, що симулюють тривалі діалоги про психічне здоров’я. Це допоможе краще виявляти потенційні ризики і відповідно адаптувати відповіді ChatGPT в делікатних ситуаціях.
Наразі OpenAI обслуговує близько 900 мільйонів користувачів щотижня, серед яких, за оцінками компанії, є мільйони людей із проявами суїцидальних думок, психозу або інших кризових станів. Хоча ефективність новітньої системи ще належить оцінити, це виглядає як крок у бік більшої відповідальності за психічне здоров’я користувачів моделей штучного інтелекту.
Додатково до теми AI та психічного здоров’я:
Використання чатботів може погіршувати психічні розлади – дослідження
