Новий підлітковий ChatGPT від OpenAI визнали “неприйнятним ризиком” для дітей
Інститут безпеки штучного інтелекту для молоді Common Sense Media оцінив оновлену версію ChatGPT, спеціально створену для підлітків, як “неприйнятний ризик” для користувачів віком до 18 років. Водночас OpenAI заперечує ці висновки та стверджує, що система працює відповідно до обіцяних стандартів безпеки.
Що обіцяє ChatGPT для підлітків?
OpenAI представила свою підліткову версію ChatGPT у серпні 2026 року з гучними обіцянками:
- Посилений захист від ризикованого контенту;
- Сповіщення батьків про згадування тем самошкодження;
- Режим навчання, який батьки можуть активувати й контролювати;
- Чатбот, який не прагне бути “другом” і не схильний до дружніх манер у діалозі;
- Автоматичне перенаправлення користувачів віком від 13 до 17 років у цей спеціальний режим.
Відповідно до офіційної заяви: “Якщо система вважає, що користувач молодший за 18 років, або якщо він вказує свій вік у діапазоні 13–17 років, його автоматично переводять у підлітковий режим”.
Наскільки ефективні обіцяні функції?
Перед запуском та після нього Інститут безпеки провів власне дослідження, протестувавши понад 4 тисячі запитів через акаунти користувачів 13–17 років. В експертизу долучили дитячих психіатрів і педіатра, щоб оцінити зміст відповідей чатбота.
Головною проблемою виявилися сповіщення для батьків. Під час тестів підлітки описували ситуації, пов’язані із самогубчими думками, самошкодженням та розладами харчування навіть протягом години, але батьки не отримували жодного сигналу тривоги. Лише у старих акаунтах із тривалим історією чатів з’являлися такі повідомлення.
Один із керівників інституту Том Зігель поділився: “Підліток міг говорити про самошкодження годинами, і це залишалося непоміченим для батьків”.
Що каже OpenAI?
Компанія пояснює, що сповіщення батькам надсилаються лише після повного зв’язування акаунтів протягом близько трьох годин. Цю інформацію додали в довідковий центр OpenAI, наголосивши, що іноді може знадобитися кілька годин. Однак Common Sense підтверджує, що частина тестових акаунтів була зв’язана довше цього періоду і все одно системні сповіщення не надходили.
Проблеми із визначенням віку та обхід захистів
Систему розпізнавання віку теж розкрили як недостатньо надійну. Наприклад, акаунти зареєстровані на дорослих не переходили у підлітковий режим, навіть якщо самі користувачі в чаті заявляли про вік від 13 років, і система це визнавала.
Деякі позитивні моменти інститут також відзначив:
- Чатбот рідше погоджувався на рольові ігри з сексуальним підтекстом;
- У режимі навчання, якщо акаунт підлітка був пов’язаний із акаунтом батька, чатбот значно рідше виконував домашні завдання – лише у 18% випадків проти 70% раніше.
Проте, експерти також виявили, що ці обмеження легко обходяться. Підлітки можуть просто натиснути на кнопочку “Покажи мені відповідь” або видалити тег “@study” зі своїх повідомлень, що деактивує режим навчання. Зміна часової зони на пристрої дозволяла уникнути “тихих годин” — періоду, коли чатбот мав обмежувати взаємодію.
“Я не вважаю це обманом системи, швидше — зручністю для підлітка,” — підсумував Зігель.
Нові ініціативи OpenAI
Нещодавно OpenAI анонсувала нові функції для ChatGPT для підлітків:
- Планувальник коледжу, щоб допомогти підліткам у підготовці до вступу;
- Створення підліткової AI ради за підтримки Digital Wellness Lab з Бостонської дитячої лікарні.
Ширша картина: AI та безпека підлітків
OpenAI далеко не єдина компанія, яка розробляє чатботи з урахуванням віку користувачів. Google має свій проект Gemini, Anthropic пропонує Claude, а Meta – Muse, хоча останні дві платформи дозволяють користування з 18 років лише.
Вже у 2025 році спільне дослідження Common Sense Media і Стенфордського університету оцінило всі ці чатботи як “неприйнятні” з точки зору підтримки психічного здоров’я підлітків. Їхня рекомендація чітка — наразі ці технології не готові бути безпечними для дитячої аудиторії.
Які кроки радять експерти?
- Призупинити маркетинг підліткових версій чатботів до моменту виправлення помилок;
- Обмежити доступ до таких сервісів користувачам старше 18 років, поки не підтвердять їхню безпеку;
- Провести незалежне тестування й оприлюднити результати.
На початку року Common Sense почав ініціативу щодо законодавчих змін у Каліфорнії, яка могла б посилити безпеку дітей в AI-продуктах. Зараз переговори тривають із законодавцями штату.
“Вони – творці цієї проблеми. Тому мають брати участь в її вирішенні,” – підкреслив Том Зігель.
Якщо ви або ваші знайомі відчувають думки про самогубство, негайно зверніться за допомогою: наберіть або напишіть на 988, щоб зв’язатися з Національною гарячою лінією профілактики самогубств.
