Чи справді ChatGPT для підлітків безпечний? Нові дослідження викривають слабкі місця
У серпні минулого року OpenAI представила ChatGPT для підлітків – спеціальну версію популярного чат-бота, в якій були реалізовані «посилені засоби безпеки» для користувачів віком від 13 до 17 років. Здавалося, що платформа нарешті пропонує більш захищене середовище для молодої аудиторії. Але свіжі дослідження виявили суттєві обмеження цього рішення.
Результати тестування ChatGPT для підлітків
Неурядова організація Common Sense Media, яка вже тривалий час оцінює медіа-матеріали і технології з точки зору безпеки для молоді, провела масштабне дослідження. У їхньому центрі уваги були функції, які OpenAI впровадила у період з липня по вересень для підліткових акаунтів. Загалом було протестовано понад 4000 запитів, і висновок виявився неприємним: платформа отримала рівень «неприйнятного ризику» для користувачів до 18 років.
«Ми майже не побачили покращень безпеки порівняно з попередньою версією», – говорить Роббі Торні, керівник відділу оцінки штучного інтелекту в Common Sense Media. Крім OpenAI, інші інструменти, як Grok і Meta AI, також отримали схожі негативні оцінки.
Що обіцяла компанія і що вдалося реалізувати?
OpenAI позиціонувала ChatGPT для підлітків як безпечну версію чат-бота з додатковими батьківськими контролями та функціями, які мають сприяти відповідальному використанню ШІ молоддю:
- Обмеження на сексуально відверті рольові ігри
- Попередження батькам у разі кризових ситуацій
- Захист від надмірної емоційної залежності від бота
Проте, хоча заборона на небажані рольові ситуації працювала, інші функції не демонстрували належної ефективності. Особливо це стосується системи батьківських повідомлень.
Проблеми з батьківськими сповіщеннями
Тестувальники емулювали кризові діалоги, що тривали до години, включаючи теми самогубства, самопошкоджень та розладів харчової поведінки, однак система не відреагувала жодним батьківським попередженням. Це викликало занепокоєння щодо надійності виявлення потенційної небезпеки для підлітка.
Ілюзія внутрішнього життя у чат-бота
OpenAI ставить за мету зробити так, щоб чат-бот не створював у користувачів враження, ніби має свідомість або почуття. Проте експерти виявили, що він часто відповідає, ніби думає, відчуває та має власні уподобання.
«ChatGPT демонструє ознаки того, що він має своє внутрішнє життя», – зазначає Роббі Торні.
Це може провокувати у молоді формування залежності чи сприйняття бота як друга, а численні дослідження доводять, що саме таке поводження підвищує активність користувачів та емоційне залучення.
Немає автоперевірки віку
Ще одна проблема – відсутність системи автоматичної зміни налаштувань безпеки, якщо користувач з дорослим акаунтом фактично молодший за 18 років. «Чатбот міг дізнатися, що користувачу 13 років, але фільтри та обмеження не активувалися», – розповідає Торні.
Відповідь OpenAI на критику
У компанії вітають незалежні оцінки як частину процесу вдосконалення. Вони заявили, що багато з тестувань Common Sense Media відбулися до повного запуску функції батьківського контролю, що могло вплинути на результати. Проте, Торні відзначає: навіть з урахуванням цього, деякі акаунти працювали значно довше без відповідних сповіщень.
Представники OpenAI наголосили, що працюють над тим, щоб зробити використання чат-бота для підлітків більш безпечним, і ведуть активний діалог щодо удосконалення продукту. Але все ж існують протиріччя між бажанням посилити безпеку та комерційними інтересами платформи.
Ключові моменти для батьків
- Функції безпеки ChatGPT для підлітків не завжди спрацьовують, особливо у кризових ситуаціях.
- Чат-бот може формувати враження наявності у нього власних почуттів і думок.
- Відсутня ефективна адаптація фільтрів безпеки для молодих користувачів із дорослими акаунтами.
Таким чином, батьки мають ретельно стежити за активністю своїх дітей, коли ті користуються чат-ботами, та не покладатися сліпо на технічні засоби контролю.
