OpenAI посилює обмеження для користувачів до 18 років щодо інформації про зброю та безпеку
OpenAI оголосила про нові заходи, які значно ускладнять доступ до інформації, пов’язаної зі зброєю, для користувачів молодше 18 років. Ці обмеження передбачають не лише блокування прямої допомоги у плануванні насильницьких дій, а й заборону на поширення практичних відомостей, які можуть бути використані в злочинних цілях, навіть якщо запити підлітків не містять ознак агресивних намірів.
Що саме зміниться у політиці OpenAI?
У компанії підкреслили, що правила вже раніше забороняли допомагати у підготовці до насильства, а тепер до заборон додаються такі моменти:
- Обмеження практичної інформації про зброю та системи безпеки, які можуть використовуватись із шкідливою метою.
- Заборона обговорювати деталі минулих масових нападів, включаючи опис зброї, способів її отримання і порівняння, що можуть прославляти злочинців.
Як OpenAI боротиметься з потенційними загрозами?
Компанія розробляє складні алгоритми, які будуть автоматично завершувати розмови користувачів, якщо ті виявляють ознаки зациклення на темі насильства чи загрози серйозної шкоди іншим. У разі повторних порушень можливі тимчасові блокування облікових записів.
Додаткові заходи моніторингу та контролю
OpenAI планує уважніше ставитися до користувачів, у попередніх діалогах яких були виявлені сигнали потенційної небезпеки, навіть якщо нові питання здаються нешкідливими. Також компанія продовжить впроваджувати технології вікового визначення користувачів, щоб додавався рівень безпеки для молодшої аудиторії.
Взаємодія з батьками та службами безпеки
Якщо акаунт пов’язаний з акаунтом батьків, вони можуть отримувати сповіщення у випадку блокування підліткових облікових записів через порушення правил, пов’язаних із агресією. Незабаром в OpenAI обіцяють впровадити і систему повідомлень про багаторазові випадки демонстрації насильницьких намірів, що призводить до санкцій.
Крім того, за перший квартал 2026 року OpenAI вже передала поліції більше 200 випадків, пов’язаних із загрозами насильства, допомагаючи таким чином запобігати злочинам.
Прозорість та звітування
У найближчому майбутньому, на початку 2027 року, компанія готує свій перший звіт про безпеку спільноти за друге півріччя 2026-го. У ньому буде детально викладено методи виявлення потенційно небезпечної діяльності, результати розслідувань та ефективність нововведених заходів.
Що включатиме звіт?
- Анонімізовані приклади випадків з ризиком насильства.
- Опис актуальних змін у системах безпеки.
- Статистичні дані про вплив застосованих заходів.
Ці заходи допоможуть підвищити безпеку користувачів та попередити зловживання платформою.
Коли чекати оновлень?
Зміни вже починають впроваджуватись і поступово з’являться у найближчі тижні. OpenAI продовжує вдосконалювати свої системи для краще виявлення загроз і запобігання їх реалізації.
