OpenAI запускає нову функцію “Trusted Contact” для підтримки користувачів у складних психоемоційних станах
Попри численні застереження експертів щодо ризиків звернення до чатботів з питаннями психічного здоров’я, все більше людей шукають допомогу у штучного інтелекту, зокрема ChatGPT. Сама компанія неодноразово стикалася з критикою через те, як її продукти справляються з темою психологічних проблем — траплялися сумні випадки, коли користувачі після спілкування з ChatGPT скоювали суїцид. Щоб мінімізувати такі ситуації, OpenAI впроваджує нову, добровільну систему безпеки для тих, хто турбується про власні думки та емоційний стан.
Що таке “Trusted Contact”?
Згідно з інформацією від Mashable, OpenAI анонсувала запуск функції “Trusted Contact” — можливості обрати близьку людину, якій довіряєш, щоб та була пов’язана з твоїм аккаунтом ChatGPT. Йдеться не про спільне редагування або обмін чатами з цією особою, а про допомогу у критичних ситуаціях. Якщо чатбот виявить тривожні сигнали у ваших особистих бесідах на тему самошкодження, він повідомить цій довіреній особі, що їй варто звернути увагу на вас.
Джерело: OpenAI
Як працює ця система?
Для активації функції необхідно обрати людину зі свого оточення, якій виповнилося 18 років (в Південній Кореї — 19 і більше). Запрошення стати вашим “Trusted Contact” надсилається автоматично. Запрошений має тиждень на відповідь, після чого запит анулюється. Річ у тім, що людина може відмовитися — це цілком добровільно, і ніхто нікого не змушує.
Якщо людина погоджується, система починає працювати: коли алгоритми OpenAI виявлять в особистих повідомленнях ознаки потенційної небезпеки щодо самопошкодження або суїциду і оцінять це як серйозну загрозу, ChatGPT поінформує вас про намір зв’язатися з вашою довіреною особою. Також чатбот надасть підказки, як почати розмову з нею, щоб не було важко зробити перший крок.
Роль спеціалістів у процесі
Варто зазначити, що цей процес не повністю автматизований. Окрім штучного інтелекту, інцидент переглядають люди з відповідною підготовкою. Якщо експерти дійдуть висновку про реальну загрозу, вони активують повідомлення до “Trusted Contact”. Сповіщення надсилають електронною поштою, SMS або через внутрішні повідомлення у додатку ChatGPT, якщо контакт зареєстрований у системі.
Для збереження приватності користувача, сповіщення містить лише загальну інформацію про потенційну небезпеку, а також рекомендації з підтримки, без передачі текстів розмов або їхніх підсумків.
Особливості та важливі подробиці
OpenAI працює над тим, щоб усі сигнали відносно безпеки розглядалися не пізніше ніж за годину. Допомагали в розробці цієї функції лікарі, науковці, фахівці з психічного здоров’я та профілактики самогубств. Розрахунок полягає у тому, щоб люди, які переживають складні моменти, отримували своєчасну підтримку від близьких, за умови, що частина цих думок вони виражають у чаті.
Ця опція повністю добровільна – щоб користуватися нею, потрібно самостійно підключитися і запросити контакт. Проте вона може стати корисним інструментом для друзів і родичів, які прагнуть допомогти у складний період.
До уваги: У квітні 2025 року компанія Ziff Davis, материнська структура Lifehacker, подала позов проти OpenAI, звинувачуючи її у порушенні авторських прав, використаних під час тренування штучного інтелекту.
