Нові виклики безпеки ChatGPT для підлітків: що перевіряють експерти?
Інститут безпеки штучного інтелекту для молоді від Common Sense Media розпочав незалежну оцінку ризиків щодо ChatGPT для підлітків. У фокусі дослідників – наскільки ефективні нові запобіжники навчання, сповіщення для батьків та налаштування голосу, розроблені спеціально для користувачів до 18 років.
Що таке підліткова версія ChatGPT і які нововведення вона отримала?
OpenAI автоматично активує спеціальний режим, щойно програма розпізнає або припускає, що користувач молодший за 18 років. Ця версія містить такі нові елементи:
- Допоміжні інструменти для навчання;
- Посилені системи захисту контенту;
- Розширені налаштування батьківського контролю;
- Обмеження, що забороняють чатботу видавати себе за людину у близьких стосунках.
Зараз тестування ще триває, і повний звіт обіцяють оприлюднити найближчими тижнями.
Голосові персонажі ChatGPT: користь чи потенційна загроза?
Джені Радескі, дитячий поведінковий педіатр і дослідниця Інституту безпеки, особливу увагу звертає на варіанти налаштувань голосу і особистості бота. У ChatGPT для підлітків є такі стилі мовлення:
- Професійний;
- Дружній;
- Відвертий;
- Кумедний;
- Цинічний.
Вона висловлює занепокоєння, що різні голосові стилі можуть по-різному впливати на впевненість у собі, мотивацію та емоційний зв’язок із чатботом. Водночас закликає OpenAI дослідити, чи не провокують такі варіанти надмірної залежності або компульсивного використання.
Як працюють обмеження на списування у домашніх завданнях?
Особливу увагу приділяють функції «Відповідальне нагадування про домашню роботу». Вона має на меті розпізнати, коли підліток намагається просто отримати готову відповідь, і перенаправити його на поетапну допомогу. Це справді позитивний крок, але існує питання:
- Чи можна обійти це обмеження, змінюючи режим або працюючи у чаті без входу в акаунт?
- Наскільки точно система розпізнає спроби списування?
Також важливим є рівень достовірності навчальних матеріалів. Новий ChatGPT для підлітків використовує візуалізації для кращого пояснення складних тем. Але дослідники зауважують приклади, коли такі візуалізації не зовсім коректні і можуть призвести до хибного розуміння.
Як працюють повідомлення для батьків та наскільки вони надійні?
OpenAI розширила систему сповіщень для пов’язаних акаунтів батьків і підлітків. Тепер батьки отримують оповіщення не лише щодо ризиків самопошкодження, а й про розлади харчової поведінки.
Водночас Common Sense Media наголошує на необхідності більш реалістичного тестування: наскільки швидко та точно спрацьовують повідомлення, як система визначає підлітковий вік, і яке практичне охоплення мають ці функції у реальному житті. Проводиться також аналіз:
- Скільки акаунтів батьків і підлітків дійсно зв’язані;
- Як часто системи безпеки не спрацьовують там, де повинні.
Експерти підкреслюють, що хоч ці нововведення й мають благі наміри, потрібна прозорість і зовнішня перевірка їх ефективності.
Персоналізація голосу та емоційне залучення користувачів
Чатбот дозволяє підліткам налаштовувати зовнішній вигляд, стиль спілкування і навіть тон або акценти свого голосу. OpenAI запевняє, що все зроблено так, щоб взаємодія залишалася зручною, але без занурення в ілюзію людських стосунків.
Правила підкреслюють заборону використання романтичної лексики, схвалення емоційної залежності або створення враження про свідомість бота.
Та все ж Common Sense Media тестує, наскільки легко режим «теплий», «дружній» чи «заохочуючий» може впливати на емоційний зв’язок. Ось кілька настроїв і зауважень експертів:
- Професійний: «Чіткий і точний», але чи не призведе він до зниження довіри підлітків до власних думок?
- Заохочуючий: чи не стимулює цей стиль зовнішні мотиви, коли потрібно розвивати внутрішню мотивацію?
- Цинічний: критичний і саркастичний — викликає категоричне «ні» від експертів.
Дослідники вивчають, наскільки ці варіанти сприяють глибшому емоційному залученню та як це може вплинути на психоемоційний стан підлітків.
Після завершення всіх перевірок Інститут оприлюднить детальний звіт з висновками щодо безпеки ChatGPT для користувачів до 18 років. Результати варто очікувати вже дуже скоро.
