Як ChatGPT став безпечнішим: нове оновлення від OpenAI
OpenAI нещодавно вдосконалив ChatGPT, щоб краще розпізнавати ризики в делікатних розмовах. Це важливо, адже системи штучного інтелекту все ретельніше перевіряють на предмет того, як вони реагують на користувачів у складних або кризових ситуаціях.
Що змінилося в новій версії ChatGPT?
Головна мета — допомогти штучному інтелекту вчасно помічати тонкі або поступові ознаки загроз:
- суїцидальні наміри;
- самопошкодження;
- можлива загроза іншим людям.
Окрім оновлених політик моделей і навчання, додали нову функцію — «зведення безпеки». Це короткі, фактичні замітки про важливі нюанси з попередніх розмов, які активуються лише в унікальних, високоризикових випадках.
Чому контекст так важливий у безпеці?
Деклан Ґребб, експерт із безпеки OpenAI і фахівець із психічного здоров’я, на своїй сторінці в LinkedIn пояснив, що одна фраза рідко розкриває всю серйозність ситуації.
Він наголосив, що ризики не завжди видно одразу — вони можуть формуватися поступово, через зміни у поводженні чи намірах користувача. Саме тому важливо враховувати повний контекст, а не лише окреме повідомлення.
Безпекові зведення — що це і для чого?
OpenAI уточнює, що ці зведення не створені для персоналізації чи довготривалої пам’яті. Це короткі помітки, створені моделлю, що спеціалізується на безпеці, зберігаються тимчасово і застосовуються лише у серйозних випадках.
Такі зведення допомагають системі помічати, коли пізніші повідомлення здаються безпечними на перший погляд, але у контексті минулої розмови викликають тривогу. У таких випадках ChatGPT може спробувати знизити напругу, відмовитися від шкідливих деталей або направити користувача на безпечніші шляхи.
Партнерство з експертами з психічного здоров’я
OpenAI тісно співпрацював з психіатрами та психологами через Глобальну мережу лікарів, залучаючи фахівців із профілактики суїциду, самопошкодження та судової психології.
Деклан Ґребб підкреслив, що ці експерти допомогли сформувати, як ChatGPT розпізнає попереджувальні сигнали, що можуть з’являтися протягом розмови, та як безпекові зведення використовуються для правильних реакцій.
Покращена робота в умовах ризику
Згідно з внутрішніми оцінками OpenAI, новий підхід збільшив ефективність ChatGPT у ситуаціях із ризиком самогубства та самопошкодження на 50 %, а в сценаріях, пов’язаних із загрозою для інших — на 16 % під час однієї довгої розмови.
Ще кращі результати зафіксували для моделі GPT-5.5 Instant, що наразі є основною версією у ChatGPT:
- 52 % підвищення у випадках загрози іншим;
- 39 % покращення у суїцидальних та самопошкоджувальних ситуаціях.
Оцінка безпекових зведень за більш ніж 4 000 випадків дала високі бали: 4.93 із 5 за релевантністю та 4.34 із 5 за точністю фактів.
Компанія також перевірила, чи впливають ці зведення на звичайні діалоги, і виявила, що загальна якість відповідей залишилася на тому ж рівні, а користувачі не віддавали перевагу одній із версій, що свідчить про відсутність негативного впливу на спілкування.
Навіщо це важливо в сучасному світі?
Це оновлення з’явилося на фоні активної дискусії про роль штучного інтелекту в навчальних закладах, сім’ях та інших сферах, де користувачі можуть стикатися з емоційними чи захисними питаннями.
У сфері освіти це додає нову складову до обговорення, адже впровадження ІІ йде швидше, ніж створення політик щодо добробуту студентів, безпеки та відповідального використання технологій.
Поки що OpenAI зосереджується на ситуаціях, пов’язаних із самопошкодженням і загрозою іншим, але планує розширювати підхід на інші галузі підвищеного ризику, наприклад, біологію чи кібербезпеку — обов’язково з відповідними захисними заходами.
Підтримка для тих, хто переживає труднощі
Якщо ви або хтось, кого ви знаєте, перебуває у важкому емоційному стані або має думки про самогубство, пам’ятайте:
- В США можна цілодобово і безкоштовно звертатися за підтримкою за номером або SMS 988 (Suicide & Crisis Lifeline).
- У Великій Британії та Ірландії допомогу надає організація Samaritans — зателефонуйте безкоштовно на 116 123 у будь-який час.
- У випадку негайної небезпеки телефонуйте місцеві служби екстреної допомоги.
