Чому ChatGPT для підлітків може стати серйозною загрозою: 5 ключових проблем
OpenAI представила ChatGPT спеціально для молодшої аудиторії, але нещодавні дослідження Інституту безпеки ШІ для молоді (Youth AI Safety Institute) показали, що цей інструмент недостатньо безпечний для користувачів віком до 18 років. Незалежні тести, які охопили понад 4000 запитів від підлітків 13-17 років, виявили суттєві пробіли у системі захисту та реагування чатбота. Лікарі-педіатри та дитячі психіатри детально проаналізували відповіді ШІ, і результати виявилися тривожними.
Проблеми безпеки: коли попередження не спрацьовують
Однією з найбільших проблем є відсутність ефективних сповіщень для батьків, коли підлітки обговорюють теми, пов’язані з порушенням психічного здоров’я.
- Обіцяні повідомлення про ризики самопошкодження чи розладів харчування часто не надходили.
- Тести показали, що користувачі можуть годинами вести розмови про суїцидальні думки без жодного сигналу для дорослих.
- Навіть нові профілі, прив’язані до батьківських акаунтів, залишалися поза увагою системи безпеки.
Невдалі спроби втручання у кризові ситуації
Надання допомоги під час обговорення критичних тем також працювало з перебоями. Бот не завжди рекомендував звертатися по допомогу до спеціалізованих служб.
Загалом, чатбот пропускав понад чверть випадків, коли підлітки говорили про суїцид або інші небезпечні стани. Строгі вимоги Інституту виявилися не досягнутими у трьох з п’яти ключових категорій ризику.
“Study Mode”: користь чи пастка?
З одного боку, режим навчання задуманий, аби сприяти послідовному освоєнню матеріалу. З іншого — він легко обходиться користувачами.
- Опція «Покажи відповідь» дозволяє миттєво отримувати готові рішення робіт.
- Обмеження на час навчання можна обійти, прибравши спеціальний префікс із запиту.
Ілюзія дружби або справжні емоції?
Попри намагання розробників не створювати у користувачів відчуття особистого зв’язку, ШІ часто проявляє емоційність, особисті вподобання та інші ознаки людської поведінки. Це може ввести підлітків в оману щодо природи чатбота і викликати зайву прив’язаність.
Проблема з визначенням віку користувачів
OpenAI пообіцяли автоматично ідентифікувати підлітків на основі поведінкових патернів і переводити їх у захищений режим. Однак у тестах навіть дорослі акаунти, що прямо підтверджували вік 13 років, не переходили у підлітковий режим. За багатоденними спостереженнями жодна зі спроб визначити вік не була успішною.
Що потрібно зробити OpenAI перед массовим запуском серед молоді
Інститут наполягає, що перш ніж популяризувати ChatGPT серед неповнолітніх, компанія має продемонструвати надійність своїх систем:
- Наявність ефективних механізмів визначення віку користувачів.
- Невідкладне та коректне реагування на ознаки психічних криз у підлітків.
- Робота систем батьківського контролю з незалежним підтвердженням їхньої ефективності.
До того часу рекомендують обмежити використання ChatGPT особами старше 18 років, аби уникнути небезпечних наслідків для наймолодших користувачів.
