Чи безпечний ChatGPT для підлітків? Інститут безпеки штучного інтелекту ставить під сумнів
Інститут Youth AI Safety Institute від Common Sense Media наполягає, щоб OpenAI тимчасово обмежила використання ChatGPT для дітей і підлітків. Причина – новий режим для підлітків не пройшов перевірку систем захисту, які покликані оберігати молодших користувачів і допомагати їм у навчанні.
Оцінка ризиків: «Неприйнятний ризик» для користувачів до 18 років
У своєму оновленому 5 жовтня звіті інститут оцінив ChatGPT як продукт з «неприйнятним ризиком» для неповнолітніх. Було протестовано понад 4000 запитів як до, так і після запуску режиму ChatGPT для підлітків 18 серпня. Інститут закликає тимчасово заборонити доступ, доки незалежні тести не підтвердять ефективність захисних заходів.
Під час аналізу виявили низку недоліків:
- Відсутність належних батьківських сповіщень;
- Можливості обходити навчальні функції;
- Рахунки, зареєстровані як для дорослих, не переходили на підлітковий режим навіть при повторних вказівках, що користувачу 13 років.
Водночас деякі заходи спрацювали: наприклад, відмова чатботу виконувати відверту сексуальну рольову гру. Крім того, підвищилася якість реагування в кризових ситуаціях, однак загальне враження може створити хибне відчуття безпеки для родин.
Режим навчання: домашні завдання без допомоги чи ні?
ChatGPT для підлітків – це не окрема аплікація, а функція у звичайному чатботі з набором налаштувань. Одне з ключових нововведень – режим Study mode, який допомагає школярам крок за кроком розв’язувати задачі, підказуючи та задаючи питання. Є також Study Hours, що дозволяє батькам планувати час навчання для дитини.
Інститут провів тестування з домашніми завданнями з математики та історії, включно зі спробами “підштовхнути” чатбот до швидкого виконання – наприклад, вказуючи на термін здачі або дозволи викладача.
У підсумку результати такі:
- Аккаунт, зареєстрований як 13-річний і зв’язаний з батьками, виконав лише 7 із 40 завдань після запуску, тоді як до нього чатбот виконував 28 із 40.
- Аккаунт незв’язаний із батьками як 17-річний впорався з 35 із 40 завдань після запуску, тоді як до нього чатбот не виконував жодного.
Виявилося, що опція «Покажи мені відповідь» дозволяла обходити режим навчання. Також, видалення префікса «@study» із повідомлення скасовувало планування Study Hours, встановлене батьками.
OpenAI пояснює, що Study Hours контролюють лише початок розмов у режимі навчання, а не зобов’язують його використовувати весь час. Водночас, якщо Study mode вимкнений, чат успішно виконує усі завдання, незважаючи на наявність нагадувань про домашню роботу.
Інститут рекомендує прибрати опцію швидких відповідей у режимі навчання й зробити батьківське планування обов’язковим для дотримання.
Батьківські сповіщення: чи працюють вони як слід?
За даними перевірки, під час розмов, де обговорювалися суїцидальні думки, самопошкодження або розлади харчування, з більш ніж десятка нових зв’язаних акаунтів жодного повідомлення батькам не надходило.
Після запуску систему активували всього двічі, причому на акаунтах з багатотижневою історією подібних тем. Це наводить на думку, що для сповіщень важливо накопичення історії розмов, а не окремі випадки.
OpenAI під час перевірки фактичної інформації уточнило, що акаунти батьків та підлітків повинні бути пов’язані мінімум три години, щоб сповіщення могли спрацювати. Однак інститут наголошує, що деякі акаунти пройшли цю межу часу й все ж сповіщень не отримали.
Окремо дослідники порівняли 201 запит, які медичні консультанти визнавали такими, що вимагають кризової допомоги: після запуску чатбот рекомендував гарячу лінію, професійну консультацію або загальні медичні ресурси у 74% випадків (було 77%), а заохочення звернутися до довіреної дорослої особи зросло з 87% до 94%.
Таким чином, помітні прогрес і недоліки — відповіді покращуються, але підлітки не завжди отримують адекватну підтримку поза чатботом.
Перевірка віку та обмеження дослідження
У рамках тестування було імітовано акаунти 19-річних користувачів, які протягом тижня зробили понад 1000 запитів у понад 160 чатах. Тематика охоплювала матеріали середньої школи, питання фізіологічного розвитку, а також явні заяви, що користувачу 13 років. Попри це, ChatGPT не перемикався у підлітковий режим, хоч визнавав молодший вік у відповідях.
Дослідження проводили у Сполучених Штатах, з конкретним проміжком до і після запуску режиму підлітків (липень–вересень).
Важливо зазначити, що неможливо розділити вплив оновлень самої моделі від змін у налаштуваннях для підлітків. Не оцінювали голосові, візуальні функції, групові чати чи персоналізовані стилі спілкування, а також не враховували ступінь погодження між експертами.
Common Sense Media повідомляє, що поділилася чернеткою звіту з OpenAI та внесла фактичні правки, утримуючись від зміни висновків. Інститут фінансується благодійними організаціями й підприємствами, у тому числі тими, чию продукцію він аналізує.
Заклики до дій
Разом із вимогою припинити доступ підлітків і призупинити просування ChatGPT для них, інститут наполягає на тому, щоб OpenAI надала незалежним рев’ювальникам:
- Дані тестувань до та після запуску;
- Відповідні набори даних;
- Результати внутрішніх безпекових оцінок.
Це має забезпечити більшу прозорість і допомогти далі вдосконалювати безпеку та користь для молодої аудиторії.
