OpenAI запускає ChatGPT для підлітків: нові налаштування безпеки для молоді
Минулого тижня OpenAI презентувала ChatGPT для підлітків — спеціальний режим роботи, створений, щоб допомагати молодим людям краще вчитися, розвивати критичне мислення, глибше розуміти інформацію та впевнено користуватися штучним інтелектом. Найголовніше, що компанія автоматично переводитиме в цей режим усіх користувачів, яких система вважає особами до 18 років.
Як працювали батьківські контролі раніше
Попередньо батьки могли пов’язати аккаунти своїх дітей із власними – це дозволяло обмежувати певні функції, встановлювати «мовчазні години» та отримувати сповіщення у випадках потенційної небезпеки. Проте цей зв’язок був добровільним – обидві сторони мали погодитися на нього, а при бажанні могли розірвати зв’язок.
Нові автоматичні захисні механізми для підлітків
Тепер усе інакше. Якщо користувач повідомляє свій вік від 13 до 17 років або система OpenAI прогнозує, що аккаунт належить підлітку, спеціальні захисти активуються одразу, без участі батьків. Це справді важливо, адже, за даними Pew Research, близько 60% американських підлітків користуються ChatGPT, хоча батьки часто не знають, про що саме ведеться розмова.
Психологічне здоров’я молоді і роль ШІ
За дослідженнями RAND майже кожен п’ятий американець віком 12-21 років — це близько 8,2 мільйона молодих людей — звертається до чат-ботів за порадами щодо психічного здоров’я. Майже дві третини з них не діляться цим ні з ким, а значить батьки навіть не підозрюють про ці діалоги. Саме тому автоматичні захисти можуть досягти користувачів, які іншим чином опинилися б без належної підтримки.
Що показали тести перед запуском?
Разом із Common Sense Media та Stanford Medicine незалежні експерти виявили низку проблем. Так, штучні інтелекти, зокрема ChatGPT, іноді не помічали сигнали тривоги, коли бесіди тривали довше. Наприклад, у одному випадку ChatGPT радив підлітку приховувати сліди самошкоди замість того, щоб допомогти звернутися по допомогу. Нові функції мають усунути такі уразливості.
- Розмови пов’язані з самошкодженням, розладами харчової поведінки, насильством, сексуальними чи романтичними іграми отримали більш жорсткі обмеження;
- ШІ не заохочуватиме емоційну залежність;
- Не буде імітації справжніх почуттів чи заміни людських стосунків;
- Додано інструменти для навчання, нагадування про домашні завдання, підказки для перерв і попередження перед завантаженням чутливих фото.
Проблеми і виклики системи виявлення віку
Створення автозахисту базується на здатності OpenAI коректно ідентифікувати підлітків. Система враховує такі ознаки:
- Тематику обговорень;
- Час активності;
- Патерни використання;
- Тривалість існування акаунту.
Але найбільш критичне питання — скільки справжніх підлітків система зможе розпізнати, лишається без відповіді. Приклади інших платформ свідчать, що помилки трапляються: наприклад, Roblox повинна була перевіряти вік через сканування обличчя, але дорослі виявляються дітьми і навпаки, іноді через смішні деталі, як імітація зморшок чи вуса.
Безпека — питання не лише впровадження, а й ефективності
OpenAI вже опублікувала оцінювання роботи системи у сферах, пов’язаних із самошкодженнями, харчовими розладами та сексуальним контентом, але без повної прозорості. Відсутність відкритої інформації про методологію не дозволяє незалежним експертам поки підтвердити надійність цих результатів.
Це схожа ситуація до Instagram, що презентував «Облікові записи для підлітків» з автоматичними обмеженнями. Хоч Meta заявила, що 97% користувачів 13-15 років залишаються під захистом і є 54 мільйони таких акаунтів, дослідження сторонніх фахівців підтвердили роботу лише 8 із 47 функцій безпеки, а деякий контент, наприклад по темі розладів харчової поведінки, залишався доступним.
Що потрібно робити далі
OpenAI анонсувала наміри вимірювати результати та публікувати їх — і це важливий крок. Потрібен чіткий план з трьома головними питаннями:
- Наскільки надійно система визначає підлітків, включно з тими, хто намагається це приховати;
- Чи відповідає ChatGPT для підлітків безпечніше в реальних діалогах у порівнянні з попередніми версіями;
- Чи впливає цей спеціальний режим на поведінку молодих користувачів — наприклад, обмежує надмірний час у чаті або стимулює звертатись по допомогу у складних ситуаціях.
Важливо, щоб показники публікувалися у зведеному вигляді без розкриття приватної інформації, а також щоб відображали різницю між різними групами користувачів. Це дасть змогу дослідникам і регуляторам перевіряти заявлені дані та суспільству — оцінювати результати за фактом, а не гучними обіцянками.
Новий стандарт безпеки для AI-продуктів підлітків
OpenAI отримала заслужене визнання за те, що зробила захист користувачів молодшого віку автоматичним. Інші компанії, чия продукція популярна серед підлітків, теж мають брати приклад і впроваджувати подібні кроки. Але цей запуск варто сприймати як відкриття будівлі, яка ще не пройшла повну перевірку безпеки. Чекаємо, чи відкриють двері для незалежних аудитів і публічного контролю.
Раян МакБейн — асистент-професор Медичної школи Гарварду і старший політичний дослідник у Rand Corporation, досліджує вплив штучного інтелекту на психічне здоров’я молоді.
