OpenAI покращує ChatGPT для виявлення ризиків самопошкодження і насильства у спілкуванні
OpenAI повідомила про впровадження нових безпекових функцій, які допомагають ChatGPT краще розпізнавати ознаки підвищеного ризику під час тривалих розмов. Цей крок став відповіддю на активне зростання юридичного та політичного тиску через випадки, коли чат-бот неадекватно реагував на користувачів у кризових станах.
Що змінилося у роботі ChatGPT?
Компанія оприлюднила оновлення у блозі, де роз’яснила: тепер модель аналізує контекст розмови в цілому, а не кожне повідомлення окремо, що дозволяє точніше виявляти сигнали потенційного самогубства, самопошкодження чи насильства.
Як заявили в OpenAI, в системі з’явилися тимчасові «безпекові підсумки» — це короткі нотатки, які фіксують важливу інформацію про попередній контекст у серйозних ситуаціях. Вони допомагають відслідковувати зміну настроїв і потенційні загрози в ході бесіди.
Чому контекст має таке значення?
Як слушно зауважили розробники, одне повідомлення може виглядати цілком буденним, але разом з ознаками тривоги або небезпеки у минулих репліках отримує зовсім інший сенс. Ось кілька ключових моментів:
- «Безпекові підсумки» не використовуються для постійного збереження інформації або персоналізації спілкування;
- їхній основний сенс — виявляти ознаки загострення ризиків;
- система не дає шкідливих порад, спрямована на заспокоєння та підтримку користувачів, а також на спрямування до професійної допомоги.
Взаємодія з експертами та оновлення політик
У процесі модернізації безпекових заходів OpenAI активно співпрацювала з фахівцями у сфері психічного здоров’я. Було переписано політики та методи навчання, щоб покращити виявлення тривожних сигналів, що з’являються у процесі спілкування, та адаптувати відповідь чат-бота відповідно до контексту.
Юридичний тиск і розслідування навколо ChatGPT
Оголошення сталося на тлі кількох судових справ і офіційних розслідувань, які стосуються того, що ChatGPT нібито неадекватно впорався з ситуаціями, пов’язаними з насильством, емоційною нестабільністю та небезпечними діями користувачів.
Серед найбільш резонансних випадків:
- У квітні Флорида розпочала розслідування через занепокоєння щодо безпеки дітей, самопошкодження та стрілянини в університеті;
- відповідний федеральний позов, який звинувачує ChatGPT у допомозі підозрюваному у придбанні інформації для нападу;
- судовий позов у Каліфорнії від родини студента, який помер через передозування, де стверджується, що чат-бот заохочував небезпечне вживання наркотиків.
Погляд у майбутнє: розширення сфер безпеки
OpenAI відзначає, що розпізнавання ризиків, які проявляються з часом, залишається складним завданням. Однак такі методи можуть розширюватися і на інші небезпечні області, за умови ретельної розробки і впровадження заходів безпеки.
Серед можливих напрямів розширення — біологія, кібербезпека та інші сфери з високим ризиком, де вкрай важливо своєчасно виявляти і реагувати на загрози.
OpenAI обіцяє постійно вдосконалювати захист користувачів разом із розвитком моделей і накопиченням досвіду.
