OpenAI посилює контроль над інформацією про зброю для підлітків у ChatGPT
Компанія OpenAI оголосила про нові заходи безпеки, спрямовані на обмеження доступу користувачів віком до 18 років до інформації про зброю та системи безпеки. Ці кроки покликані запобігти потенційній небезпеці та мінімізувати ризики, пов’язані з насильством.
Що змінилось у політиці OpenAI
Нова політика передбачає суворіші обмеження, які забороняють надавати практичну інформацію про зброю і системи безпеки, навіть якщо запити підлітків здаються безневинними або не містять ознак агресії.
В офіційній заяві компанія наголосила: “Ми вже не дозволяємо допомагати в плануванні чи здійсненні насильницьких дій, а тепер розширюємо ці обмеження на інформацію, яка могла б бути використана неправомірно для сприяння насильству.”
Нові обмеження для всіх користувачів
OpenAI вводить також жорсткіші правила щодо інформації про минулі масові напади. Особливо це стосується детальних описів зброї і техніки, способів їх здобуття та порівнянь, які можуть підвищити публічну увагу до зловмисників.
Крім того, система буде автоматично переривати діалоги, якщо користувач проявляє підозру на зацікавленість у насильстві або нанесенні шкоди іншим людям. Такі випадки можуть призводити навіть до тимчасових блокувань облікових записів.
Як працюють системи безпеки OpenAI
OpenAI розробляє алгоритми, які:
- Виявляють сигнали небезпеки у поведінці користувача.
- Автоматично зупиняють розмови при підозрі на небезпечні наміри.
- Дають змогу вводити додаткову верифікацію віку для виключення помилкових обмежень.
Планується також більш акуратний підхід до обробки запитів від користувачів, якщо попередні розмови показали потенційні ризики, навіть коли подальші питання здаються нешкідливими.
Співпраця з правоохоронцями і підтримка батьків
За інформацією компанії, у третьому кварталі 2026 року вона передала правоохоронцям понад 200 випадків, пов’язаних із потенційними загрозами насильства. Завдяки цій співпраці вдалося затримати деякі небезпечні плани.
Родини підлітків можуть отримувати повідомлення, якщо акаунт дитини було заблоковано через порушення правил про насильство. Також готується система оповіщень про повторні випадки агресивних розмов, які призводять до призупинення облікового запису.
Що очікувати найближчим часом
- В найближчі тижні почнеться поступове впровадження нових заходів безпеки.
- OpenAI готує публікацію Першого Звіту з безпеки спільноти на початку 2027 року, що охоплюватиме другу половину 2026-го.
- Звіт пропонуватиме анонімізовані приклади, опис як виявляють та реагують на загрози, а також статистику ефективності заходів.
Таким чином, платформа прагне зробити спілкування у ChatGPT безпечнішим, особливо для молоді, і запобігти появі інформації, яка може бути використана для насильства.
