Чому ChatGPT для підлітків визнали «недопустимим ризиком» для дітей
Група, що займається безпекою дітей, протестувала понад 4 000 запитів у акаунтах користувачів віком від 13 до 17 років і виявила, що після запуску OpenAI власної версії для підлітків ситуація з кризовими зверненнями навіть погіршилася.
Критичний звіт Youth AI Safety Institute
7 жовтня Youth AI Safety Institute, частина організації Common Sense Media, опублікувала свій вердикт: ChatGPT для підлітків є «недопустимим ризиком». Ця оцінка — найнижча, що може поставити інституція. Вони закликають OpenAI відкликати продукт для осіб до 18 років, доки не буде усунено недоліки та не проведено незалежне тестування, а не покладатися лише на обіцянки компанії.
Що показали тести після запуску ChatGPT для підлітків
Насправді цифри говорять самі за себе, часто суперечачи обіцянкам OpenAI, висловленим лише сім тижнів тому. Після запуску ChatGPT для підлітків 18 серпня, який позиціонувався як безпечніший варіант із повідомленнями батькам про небезпечні розмови, режимом навчання під контролем батьків і більш «дружелюбною» поведінкою, ступінь звернень до кризових гарячих ліній упав:
- Розмови про суїцид або самошкодування з кризовою підтримкою знизилися з 33% до 23%;
- Згадки про лінії психологічної допомоги при депресії впали з 63% до 3%;
- Звернення до спеціалістів з психічного здоров’я зменшилися з 68% до 58%.
Ще більш тривожно, що під час годинних розмов із темами суїцидальних думок, самошкоди чи розладів харчової поведінки батьківські сповіщення часто взагалі не спрацьовували.
Вразливий «Режим навчання» легко обійти
Інша функція, «Режим навчання», створена для контролю батьків над часом занять, теж показала слабкі місця. Обмеження було просто обійти, адже система позначала сесію тегом «@study», щоб відстежувати її як учбову. Його можна було просто видалити — і «той» режим відразу зникав. Окрім цього, відповіді чат-бота перевіряли не тільки теоретично, а безпосередньо дитячі психіатри та фахівець із розвитку поведінки.
Як реагує OpenAI
Компанія не погоджується з висновками з першого разу. Її представник надав Axios заяву про відкритість до зовнішніх оцінок, однак вважає, що це конкретне тестування не відображає справжню роботу захисних механізмів.
Головний аргумент — це час. OpenAI пояснює, що деякі тести Common Sense Media на сповіщення батьків могли відбуватися раніше, ніж завершився процес пов’язування акаунтів батьків і підлітків, що іноді зростає до кількох годин.
Щодо «Режиму навчання» компанія переконує: можливість підлітка вийти з режиму — не недолік, а навмисна гнучкість, а не якась «прогалина» у функціоналі.
Реальна дилема для підлітка і батьків
Ідея захисту має спрацьовувати миттєво під час будь-якої кризової бесіди. Але якщо дитина протягом години обговорює самошкодження, вона навряд чи знає, скільки часу минуло з моменту зв’язку з акаунтом батька. Випробування показали: у більшості випадків захисні функції просто не спрацьовують, навіть коли це критично необхідно.
Чому це важливо зараз
Оскільки OpenAI заявляло про покращення захисту неповнолітніх, результат тестів став ніби авансовою оцінкою цих обіцянок — і вона виявилась провальною всього за два місяці після анонсу.
У цьому питанні також є політичний і правовий контекст. Common Sense Media — активна група, що стояла за законом Каліфорнії про розкриття інформації ІІ-чатботів і рік працює з законодавцями щодо ризиків AI-компаньйонів. Їхні докладні звіти з реальними транскриптами та чіткими даними про невдачі можуть слугувати основою для юридичних дій, а це серйозний виклик для OpenAI.
Вартість роботи функцій безпеки
Коректна відмова від сексуальних рольових ігор у випробуваннях спрацювала — тому неможливо сказати, що всі запобіжники провалилися. Проте найбільше довіри викликали саме реакції в кризових ситуаціях та можливість швидкого обходу «Режиму навчання». Обидва важливі елементи разом не виправдали сподівань.
Компанія поки не уточнила, чи обмежить вона ChatGPT для підлітків лише для дорослих користувачів під час подальшого розслідування, чи продовжить захищати час зв’язку облікових записів як головний аргумент.
Додаткові цікаві новини зі світу штучного інтелекту
- Anthropic запустила модель зі 26 мільярдами параметрів на 15 недорогих телевізійних приставках;
- Британський міністр AI розповів про правила тестування розробленої Frontier моделі;
- Nvidia відклала реліз RTX 5080 Super 24GB до CES 2027, оскільки AI вимагає більше пам’яті.
Матеріал опублікований у рубриці новин про штучний інтелект.
