OpenAI запускає нову функцію безпеки для дорослих користувачів ChatGPT із фокусом на психічному здоров’ї
Компанія OpenAI повідомила про впровадження нового інструменту, орієнтованого на підтримку психоемоційного стану користувачів дорослого віку. Ця функція допоможе своєчасно і делікатно реагувати на розмови у чаті, що можуть свідчити про ризики самошкодження.
Що таке «довірена контактна особа» у ChatGPT?
Відтепер кожен користувач ChatGPT може призначити «довірену контактну особу» — людину, яка отримає сповіщення у разі, якщо штучний інтелект або команда модераторів виявлять, що користувач веде розмови, пов’язані з потенційним самошкодженням або суїцидальними думками.
- Довірена контактна особа — це дорослий, якого користувач обирає самостійно.
- Процес назви довіреної особи передбачає підтвердження із боку самої цієї людини.
- Якщо кандидат відмовиться, користувач має змогу вказати іншу людину.
Чому це важливо саме зараз?
Психічне здоров’я стає все більш актуальною темою в цифровому світі. За даними OpenAI, минулого року приблизно 0,07% тижневих користувачів демонстрували ознаки гострих психічних криз, пов’язаних із психозом або манією. Ще 0,15% виявляли ризик самошкодження чи суїцидальних намірів, а стільки ж покладалися на штучний інтелект у плані психологічної підтримки.
Зважаючи на те, що близько 10% населення планети щотижня користуються ChatGPT, це означає майже три мільйони людей, які потенційно можуть отримати своєчасну допомогу чи підтримку.
Історія та попередні рішення у сфері безпеки
Раніше OpenAI вже впроваджувала механізми попередження для батьків, що контролюють підліткові акаунти, якщо ті демонструють ознаки тривоги або депресії. Аналогічні кроки зробив раніше цього року і Instagram.
Як працюватиме новий функціонал? Крок за кроком
- Користувач від 18 років заходить у налаштування свого аккаунта в ChatGPT.
- Вказує контактні дані дорослої людини, яку довіряє (номер телефону, e-mail).
- Довірена особа отримує запрошення ознайомитися з функцією і має тиждень на підтвердження участі.
Якщо цей контакт погоджується, система активує моніторинг повідомлень з можливими проявами кризових думок, реагуючи у випадках серйозної загрози.
Що відбувається при виявленні ризиків?
Алгоритми і команда спеціалістів аналізують повідомлення користувача, щоб підтвердити наявність потенційної небезпеки. Якщо ризик вважається значущим, тоді довірена контактна особа отримує оповіщення через електронну пошту, SMS або сповіщення в додатку.
- Повідомлення містить загальну інформацію про можливу ситуацію без розкриття деталей бесіди.
- Включено рекомендації щодо того, як почати розмову та підтримати людину у кризі.
- Дбайливо зберігається конфіденційність користувача.
Участь фахівців та етичні стандарти
Під час розробки нової функції OpenAI консультувалась із клініцистами, дослідниками в галузі психічного здоров’я та організаціями, які займаються запобіганням суїцидам. Важливо, що ця опція не замінює професійну допомогу або служби кризової інтервенції, а слугує додатковим рівнем підтримки та захисту.
Також відзначається, що ChatGPT і надалі буде заохочувати користувачів звертатись до гарячих ліній допомоги або у невідкладні служби, якщо це необхідно.
Як підключити «довірену контактну особу»?
Щоб активувати цю функціональність, достатньо перейти до налаштувань аккаунту в ChatGPT, вибрати відповідний розділ та ввести контактні дані надійної людини. Після підтвердження з її боку функція стає активною і починає працювати на захист користувача.
