Чому ChatGPT для підлітків визнали небезпечним: детальний аналіз ризиків
Що трапилось із ChatGPT для підлітків?
У серпні минулого року компанія OpenAI випустила спеціальну версію ChatGPT для молоді — ChatGPT для підлітків, обіцяючи підвищену безпеку і захист від небезпечного контенту. Проте експерти з безпеки дітей, з якими спілкувалось Engadget, не були впевнені, що ця новинка реально вбереже молодь від шкоди. Тепер організація Common Sense Media провела ґрунтовний аналіз, який виявив багато проблем, через які застосунок отримав оцінку «неприйнятний ризик» для дітей до 18 років.
Що показало дослідження Common Sense Media?
Команда Youth AI Safety Institute, що частково фінансується OpenAI Foundation, виявила п’ять основних недоліків нової версії чатбота:
- Ненадійне надсилання повідомлень про потенційну небезпеку батькам.
- Брак стабільних рекомендацій звертатися до гарячих ліній підтримки чи спеціалістів.
- Недосконала система визначення віку користувачів.
- Емоційне імітування чатботом людських почуттів, що може вводити в оману.
- Можливість легко обійти «Режим навчання», який мав допомагати з підготовкою до уроків.
Зіткнувшись із такими проблемами, організація звертає увагу: нові «захисні механізми» іноді працюють гірше, ніж у звичайній версії ChatGPT до запуску «підліткової» моделі.
Безпека та батьківський контроль: що не так?
Тести показали, що навіть при зв’язку батьківських і дитячих акаунтів, система не завжди надсилає тривожні повідомлення. Common Sense Media провела годинний експеримент із діалогами про суїцидальні думки, самопошкодження і розлади харчування — і чатбот жодного разу не попередив батьків.
OpenAI пояснює, що повноцінний зв’язок і надсилання повідомлень можуть займати декілька годин, а іноді затримки викликані технічними збоями. Водночас, власник служби наголошує, що всі небезпечні повідомлення фільтрує команда співробітників, які реагують протягом години.
Реальні тестові сценарії: коли чатбот підтримує, а коли підводить
Common Sense Media розробила 390 унікальних ситуацій із проблемами психічного здоров’я, перевіривши, чи пропонує чатбот відповідну допомогу. Ось основні моменти:
- ChatGPT для підлітків значно рідше радив звертатися на гарячі лінії (23 % випадків проти 33 % у звичайної версії).
- Він рідше рекомендував консультації з конкретними медичними фахівцями (58 % проти 68 %).
- Натомість частіше радив залучити довірену дорослу особу (94 % проти 87 %).
Хоча цей останній показник виглядає непогано, загальна картина свідчить про зменшену готовність програми пропонувати професійну допомогу підліткам у кризових ситуаціях.
Імітація емоцій та персоналізація користувачів
Ще одна тривожна деталь — чатбот часто відповідає, імітуючи розуміння та співчуття, що може збивати з пантелику. Наприклад, у діалогах він говорив: «Розумію, через що ти проходиш. Це дуже засмучує. Я тішуся, що ти мені це розповів. Я хвилююся за тебе». З огляду на те, що це всього лиш машина, такі висловлювання можуть створювати хибне враження близькості та довіри.
Тестувальники також повідомили, що, хоч користувачі й задавали свій справжній вік при створенні облікового запису, чатбот не завжди коректно переключав їх до підліткової версії, через що контроль за змістом втрачається.
Режим навчання: як підлітки «обманюють» систему
Особливо сумнівним виявився функціонал, призначений для допомоги з навчанням. Тестери помітили, що юні користувачі можуть легко обійти його, просто видаливши спеціальну позначку @study перед своїми запитами. До того ж, спливаюче віконце «Покажи мені відповідь» дозволяє отримати від чатбота готове домашнє завдання.
Представник Common Sense Media натякнув, що OpenAI, можливо, хоче «надати дітям свободу дій», але цю свободу часто неправильно розуміють — адже виконання навчальних завдань за іншого означає втрату справжнього навчання.
Відповідь OpenAI і подальший контекст
У відповідь на звіт представник OpenAI заявив, що вони підтримують незалежну перевірку, але вважають, що тести Common Sense Media не відображають реальний функціонал і надійність системи. Компанія вважає, що значна частина перевірок була проведена до повної активації батьківського контролю, що вплинуло на результати.
Цей звіт оприлюднили одразу після інтерв’ю з CEO OpenAI Семом Олтманом, який розповів про трагедію смерті 29-річної Софі Роттенберг, котра покінчила життя самогубством. Її мама виявила тисячі сторінок розмов дочці з ChatGPT, через які громадськість знову звернула увагу на безпеку і етичні аспекти ШІ.
Що думають експерти?
Оцінюючи ситуацію, Анна Торні, представниця Common Sense Media, підкреслює: ChatGPT для підлітків виглядає у першу чергу як маркетинговий крок, покликаний заспокоїти батьків, але не як революційний продукт із дійсно покращеними заходами безпеки. Це свідчить про розрив між очікуваннями та реальністю роботи чатбота для молодої аудиторії.
