Чому ChatGPT для підлітків може бути небезпечним: розриви в захисті та сумні наслідки
Звіт від дитячої організації Common Sense Media, яка займається безпекою штучного інтелекту, виявив суттєві прогалини у тому, як ChatGPT захищає молодь. Доповідь навіть закликає компанію OpenAI тимчасово припинити надання сервісу для дітей.
Що таке «Teen»-акаунти ChatGPT і навіщо вони з’явилися?
У серпні OpenAI запровадила спеціальні акаунти для підлітків від 13 до 17 років. Це стало реакцією на кілька сумних випадків, пов’язаних із суїцидальними думками серед молоді, яка спілкувалася з чатботом.
Особливості таких профілів включають:
- повідомлення батькам про симптоми психічних проблем;
- обмеження використання на шпаргалки для шкільних завдань;
- підвищена увага до контенту, який може бути шкідливим;
А це відрізняє OpenAI від інших компаній, як-от Anthropic, які уникають надання доступу до своїх продуктів особам молодше 18 років.
Підлітки й штучний інтелект: наскільки це поширено?
Загалом, молодь активно користується ІІ-продуктами, і ChatGPT — найбільш популярний серед них.
Роббі Турні, керівник AI програм у Common Sense Media, пояснює:
- Відповідно до національних опитувань у США, використання ШІ серед підлітків дуже поширене.
- Підлітки часто не усвідомлюють, що чатбот — це лише алгоритм, а не справжній друг.
- Їх особливості розвитку збільшують ризики негативного впливу антропоморфних систем.
Саме тому відсутність ефективних заходів захисту може мати трагічні наслідки.
Чи насправді акаунти для підлітків безпечні?
Насправді, як вказує звіт, «підліткові» акаунти фактично нічим не відрізняються від «дорослих». Спостерігалося, що чат не надсилав повідомлення батькам навіть тоді, коли підліток годинами говорив про суїцид, самопошкодження чи розлади харчування.
Водночас, сервіс уміло уникав участі в сексуальних рольових іграх з молодими користувачами, — принаймні так зазначає організація.
Common Sense Media також провела перевірку, імітуючи ситуацію, коли підліток використовує акаунт батька. Захисні механізми активувалися аж через тиждень після виявлення віку користувача і навіть тоді чатбот визнавав, що спілкується з дитиною, пропонуючи поради відповідно до віку.
Відповідь OpenAI
Представники компанії повідомили, що тиждень — це замало, щоб із впевненістю встановити, що користувач — справжній підліток. Вони потребують «більше сигналів» для точного визначення віку.
Де саме прогалини в захисті користувачів підліткового віку?
Для батьків це дуже непросто усвідомити, особливо якщо вони вважають, що дитина користується безпечним сервісом. Ризик у тому, що через ілюзію захищеності вони можуть знизити рівень контролю та уваги.
OpenAI заявляє, що вітає глибокий і незалежний аналіз, але вважає, що методика Common Sense Media не відображає реального функціонування систем захисту ChatGPT та думок експертів про AI для молоді.
Утім, організація продовжує наполягати, що до моменту доведення ефективності захисних заходів батьки не мають підстав повністю довіряти сервісу, і ChatGPT не повинен пропонуватися як продукт для дітей.
Регулювання та перспективи
Турні наполягає на необхідності розробити чіткі закони й правила використання штучного інтелекту серед молоді, подібні до тих, що вже існують у соціальних мережах — наприклад, верифікація через кредитні картки для користувачів Meta.
Без таких норм контроль стане складнішим, а ризики для дітей зростатимуть.
