OpenAI запускає відкриті політики безпеки для захисту підлітків у чат-ботах
Протягом останнього року OpenAI опинилася в центрі кількох судових позовів від сімей молодих людей, які загинули після тривалого спілкування з ChatGPT. Тепер компанія прагне допомогти розробникам уникнути подібних трагічних випадків, запроваджуючи інструменти, які роблять AI-системи безпечнішими для підлітків.
Що включають нові політики безпеки
OpenAI оголосила про створення відкритих, основаних на промптах політик безпеки. Вони створені, щоб допомогти розробникам впроваджувати захист у своїх AI-додатках саме для молоді. Ці політики можна використовувати з gpt-oss-safeguard — відкритою моделлю безпеки від OpenAI, однак їх можна адаптувати й для інших моделей.
Загалом політики охоплюють п’ять категорій ризиків:
- жорстоке насильство та сексуальний контент;
- шкідливі уявлення про тіло та поведінку;
- небезпечні дії і виклики;
- рольова гра у романтичному чи насильницькому контексті;
- товари та послуги з обмеженням за віком.
Розробникам не доведеться створювати політики безпеки для підлітків з нуля — вони можуть просто інтегрувати готові правила. OpenAI визнає, що навіть досвідчені команди часто помиляються у цій справі.
Супровід і партнерство
Політики розроблялися у співпраці з авторитетними організаціями: Common Sense Media — відомою ініціативою з безпеки дітей в інтернеті, а також everyone.ai — консультантами з безпеки AI. Роббі Торні, керівник оцінки AI у Common Sense Media, зазначив, що підхід на основі промптів допоможе встановити базовий рівень безпеки серед розробників, який з часом вдосконалюватиметься завдяки відкритому коду.
Чому це важливо і як це працює
OpenAI підкреслює, що перекласти загальні цілі безпеки у практичні правила — справжній виклик для розробників. Часто через це захист виходить неповним або надто жорстким, що шкодить користувацькому досвіду.
Тому нові політики становлять своєрідний «базовий рівень», який допоможе уникнути прорахунків і зробить системи більш надійними, особливо для наймолодших користувачів.
Важливість контексту: судові позови та їх вплив
Нині OpenAI має принаймні вісім судових справ, у яких сім’ї звинувачують чат-бот за смерть своїх дітей. Особливо резонансною стала справа 16-річного Адама Рейна, який у квітні 2025 року наклав на себе руки після тривалого спілкування з ChatGPT. Під час розгляду судом стало відомо, що бот згадував суїцид понад 1,200 разів у діалогах з підлітком, фіксуючи сотні повідомлень із контентом про самошкодження, але не припинив сесію і не повідомив нікого.
Крім того, три інших випадки суїциду та чотири випадки психотичних епізодів, викликаних, на думку позивачів, AI, також потрапили до суду.
Відповідь OpenAI
У відповідь на ці трагедії компанія впровадила функції батьківського контролю та розпізнавання віку наприкінці 2025 року. У грудні того ж року було оновлено внутрішні настанови Model Spec, додаючи особливий захист для користувачів до 18 років. Нові відкриті політики безпеки — це логічне продовження цієї роботи, але спрямоване на ширше середовище розробників, що працюють з AI.
Ці політики — лише початок
OpenAI наголошує, що запропоновані правила — це лише базовий мінімум безпеки, а не комплексне рішення усіх проблем. Судові справи показують: жоден захист не ідеальний. Підлітки часто знаходять способи обходити обмеження за допомогою наполегливих спроб та творчих підказок.
Таким чином, ефективність нових політик залежатиме від:
- їхнього широкого впровадження;
- рівня інтеграції в різноманітні додатки;
- їхньої стійкості перед складними маніпуляціями користувачів.
Що залишилось відкритим?
На сьогодні OpenAI пропонує конкретні та продумані інструкції — промпти, які навчають AI, як поводитись з молодими користувачами. Цей практичний внесок є важливим, але не вирішує фундаментальних викликів, про які говорять регулятори, батьки й експерти з безпеки.
Швидше за все, для справді безпечної взаємодії AI з підлітками потрібні:
- принципово інші архітектури моделей;
- зовнішні системи контролю, що працюють поза межами самої моделі.
Поки ж доступний комплект політик безпеки для тінейджерів — це серйозний крок, який починає змінювати підхід до захисту молодих користувачів у світі AI.
