OpenAI запроваджує нову систему безпеки для ChatGPT: як працює функція “Надійний Контакт”
OpenAI на цьому тижні представила добровільну функцію безпеки, яка отримала назву “Надійний Контакт”. Вона покликана допомогти дорослим користувачам ChatGPT, дозволяючи їм обрати близьку людину — друга чи родича, — яку повідомлять у разі виявлення ознак суїцидальних думок або самопошкодження у розмовах із чат-ботом.
Як працює система моніторингу та інтервенції?
Автоматична система аналізу розмов ChatGPT відстежує повідомлення, в яких користувач може висловлювати наміри або плани заподіяти собі шкоду, що свідчить про реальну загрозу життю. Якщо такі сигнали фіксуються, спеціальна команда експертів протягом години переглядає ситуацію, обираючи, чи варто сповіщати “надійний контакт”.
Така людина отримує попереднє запрошення, у якому, незалежно від рішення приєднатися чи відмовитись, їй пояснюють роль. Повідомлення, яке надсилають “надійному контакту”, містить лише загальну інформацію про небезпеку, без розголошення деталей розмов або переписок.
Ключові аспекти функції “Надійний Контакт”
- Сповіщення надсилається електронною поштою, SMS або через додаток;
- Команда модерації має відкликатися швидко, щоб своєчасно реагувати;
- OpenAI надає рекомендації, як саме “надійний контакт” має підтримувати людину, включно з питаннями про стан та пропозиціями професійної допомоги;
- Система орієнтована на повагу до приватності та конфіденційності користувачів.
Чому ця ініціатива з’явилася саме зараз?
Різноманітні випадки у світі показали, що саме чат-боти іноді зіштовхуються із складними емоційними проблемами користувачів, зокрема самогубчими настроями. У США кілька резонансних судових справ пов’язують діяльність штучного інтелекту із трагедіями молодих людей, які звертались до системи за порадою щодо суїциду.
З огляду на те, що багато користувачів сприймають LLM (великі мовні моделі) як співрозмовників, довірчих співбесідників, а дехто навіть — як близьких за духом, конструктори змушені підходити до питання безпеки максимально відповідально. В останні роки дослідження підтвердили, що чат-боти, включно з ChatGPT, Claude та Gemini, іноді дають шкідливі поради або не здатні адекватно підтримати людей у кризових ситуаціях.
Як додати “Надійного Контакта” у ChatGPT?
Щоб активувати цю функцію, користувачу необхідно перейти у меню Налаштування > Надійний Контакт і обрати одну дорослу людину (старшу за 18 років). Кандидат отримає запрошення, яке потрібно прийняти протягом одного тижня. Якщо відповіді немає або був відмовлений запит, можна вибрати іншу людину.
За бажанням, будь-хто може змінити або видалити свого “надійного контакта” в налаштуваннях. Також людина, яку запросили, може у будь-який момент відмовитись від цієї ролі.
Навіть якщо користувач не додає контакт вручну, при повторних розмовах про небезпечні теми чат-бот може надавати рекомендації щодо запровадження захисної функції для його безпеки.
Практичні поради для “Надійного Контакта”
- Не ігноруйте отримане повідомлення: це сигнал, що хтось, кому ви небайдужі, переживає важкі часи;
- Спробуйте відверто поговорити, ставте прямі питання про стан людини, не уникаючи теми;
- За потреби пропонуйте звернутися до спеціалістів або допоможіть організувати професійну підтримку.
OpenAI активно працює над покращенням цієї ініціативи, щоб зробити інструмент доступним для усіх дорослих користувачів у світі протягом найближчих тижнів.
Важливо пам’ятати
Якщо ви чи хтось із близьких відчуває кризу або загрозу життю — не відкладайте звернення по допомогу. В Україні існують гарячі лінії та професійні служби підтримки, які готові допомогти 24/7. У разі невідкладної ситуації звертайтесь до служб екстреної допомоги.
Ваша безпека та психічне здоровʼя — понад усе. Спільно з новими технологіями, які підтримують турботу і увагу, навіть у складні моменти можна знайти вихід і не залишатися наодинці з проблемою.
