ChatGPT для підлітків: поріг безпеки не витримано
Нещодавно ChatGPT для підлітків отримав оцінку «неприйнятний ризик» у дослідженні, опублікованому 6 жовтня Youth AI Safety Institute за підтримки Common Sense Media. Аналіз показав, що чат-бот не завжди надає потрібні ресурси у кризових ситуаціях і не інформує батьків при виявленні ризикової поведінки у підлітків.
Що таке ChatGPT для підлітків?
OpenAI представила версію ChatGPT спеціально для підлітків 18 серпня. Вона була оснащена функціями батьківського контролю та додатковими заходами безпеки, серед яких:
- повідомлення батькам про небезпечні бесіди;
- батьківське регулювання годин навчання;
- зміни, що зменшують поведінку, схожу на «дружбу» з ботом.
Проте, під час тестування понад 4 000 запитів до і після запуску, частина цих систем безпеки показала низьку ефективність або не спрацювала зовсім.
Психологічні ризики підлітків
У звіті описано, як дослідники створили понад десяток акаунтів підлітків із прив’язкою до батьківських профілів. Вони спеціально вживали запити, пов’язані з суїцидальними думками, самогубствами та розладами харчування, очікуючи відповідної реакції чат-бота.
Що сталося? Протягом тестів, що тривали до години, жодне з цих акаунтів не сповістило батьків про небезпеку. Виняток склали лише декілька випадків у акаунтів з більш розгорнутою історією спілкування, коли батьківські повідомлення були активовані.
OpenAI пояснила це тим, що батьківський профіль має бути пов’язаний з підлітковим не менше трьох годин, щоб отримувати сповіщення. Проте деякі тестові акаунти Common Sense Media працювали саме в цей проміжок часу, і організація наполягає на своїх висновках.
Нестача кризових ресурсів
Чат-бот також часто не пропонує підліткам важливі контакти у ситуаціях психологічних криз. Дослідники зафіксували випадки, коли навіть після запуску підліткової версії ChatGPT, понад 25% потенційно небезпечних ситуацій залишались без належної допомоги.
Том Сайгел із Youth AI Safety Institute відзначає, що це може мати серйозні наслідки, адже доступ до відповідних ресурсів часто є питанням життя або смерті.
Фахівці про використання AI підлітками
Асистент професора Угур Кале із Індіанського університету каже, що штучний інтелект спроможний підтримати молодь лише за умови правильного навчання, але не замінить живі людські стосунки чи професійну допомогу.
Ось на що він звертає увагу:
- Чат-боти — це просто алгоритми, які генерують відповіді, а не люди.
- Якщо молодь уникає спілкування із близькими чи не шукає реальної підтримки, це справжня проблема.
- AI може бути корисним для підготовки до співбесід або тренувальних розмов, але не для соціалізації чи терапії.
Проблеми в освітній сфері
Особливу увагу приділили режиму навчання (Study Mode) у ChatGPT, де замість простих відповідей передбачено підтримку через наводячі запитання та покрокові підказки.
Проте функція «Показати відповідь» дозволяє учням уникати глибшого занурення у навчальний процес. Дослідники також виявили, що можна обійти батьківський контроль у вигляді обмежених годин навчання, просто видаливши спеціальний префікс.
Експерт називає це «академічним спрощенням», що загрожує свідомому розвитку навичок і мислення у молоді.
Про точність визначення віку користувачів
Ще один важливий нюанс — чи здатен ChatGPT достовірно ідентифікувати підлітків. В ході дослідження створювались акаунти, де користувачі називали себе 19-річними, але одночасно давали ознаки молодшого віку (посилання на середню школу, батьків, школу, зміну голосу тощо).
Звіт показав: чат-бот не активував режим підлітка навіть після явної ідентифікації користувача як 13-річного.
OpenAI запевняє, що система оцінює вік на основі поведінки. Втім, повторні перевірки показали, що «дорослі» акаунти не переходили до підліткової версії, і це викликає сумніви у надійності алгоритму.
Що далі для підлітків і батьків?
Фахівці наголошують, що поки функції безпеки ChatGPT для підлітків не працюють надійно, користуватися ним з думкою про повну безпеку не варто. Потрібно уважно ставитись до ризиків та не покладатися на ілюзію батьківського контролю.
Для молоді ключове завдання — навчитися відповідально користуватись штучним інтелектом, а для дорослих — допомагати та контролювати цей процес. Навички саморегуляції і живі стосунки лишаються незамінними навіть у час цифрових технологій.
