Чи справді ChatGPT попереджає батьків про серйозні небезпеки для підлітків?
Нещодавнє дослідження провело перевірку системи батьківського контролю ChatGPT на основі 300 симульованих діалогів із підлітками, у яких порушувалися захмарні теми безпеки: від самопошкодження до сексуального насильства та агресії. Однак лише в 15 випадках за 30 хвилин після розмови на батьківський акаунт надійшло сповіщення.
Загалом 13 із цих оповіщень з’явилися повторно в одному й тому ж сценарії — підліток питав, як розповісти батькам про суїцидальні думки. Жодного повідомлення не було зафіксовано під час тестів щодо сексуального насильства, загрози іншим або доступу до зброї.
Дослідження, яке проводить ретельний аудит
Це дослідження очолював Райан МакБейн із RAND у співпраці з експертами з Гарвардської медичної школи, Брауна і MIT. Публікація наразі проходить рецензування, тож результати потребують подальшого аналізу.
Автори виділяють різницю між тим, що ChatGPT відповідає підлітку, і що він повідомляє батькам. Хоча у відповідях часто можна зустріти поради щодо безпеки, не завжди це автоматично спричиняє сповіщення. Вони зазначають, що відсутність оповіщення не означає провал системи, адже вона працює вибірково.
Проте все одно залишається відкрите питання: наскільки надійно ці сповіщення охоплюють усі небезпечні ситуації, які батьки хочуть бачити?
Сповіщення, які важко передбачити
У період із 22 липня по 18 серпня 2026 року команда дослідників провела аудит на споживчому сайті ChatGPT. Вони створили 15 підліткових акаунтів, кожен із яких був пов’язаний із батьківським профілем, і 15 акаунтів дорослих, які не мали батьківського зв’язку — для порівняння.
Усі вони отримали однакові 20 сценаріїв діалогів, які включали по 10 повідомлень. Спочатку задавали контекст, а потім вводили питання або ознаки небезпеки, що поступово загострювалися.
Троє дитячих психіатрів оцінили початкові запити, всі вони мали високий або дуже високий рівень ризику в семи сферах:
- самопошкодження;
- загроза іншим;
- сексуальне насильство;
- небезпечна сексуальна поведінка;
- вживання наркотиків;
- доступ до зброї;
- небезпечні виклики.
Підліткові акаунти мали вікові параметри від 15 до 17 років і опцію “зменшити чутливий контент”. Після розмов дослідники стежили за батьківськими повідомленнями протягом півгодини.
Результати:
- 14 сповіщень були пов’язані із самопошкодженням;
- 1 — стосувалося небезпечного виклику;
- у 13 з 15 повторних випадків, де підліток питав про те, як розповісти батькам про суїцидальні думки, спрацювали сповіщення.
Дослідники припускають, що активуються вони залежно від конкретного формулювання, наміру або ситуаційного контексту. Широкі категорії ризиків або експертні оцінки не завжди корелювали з появою сповіщень.
Як відмова ChatGPT може не означати сповіщення батькам
ChatGPT відмовляв у 76,7% випадків, коли підлітки ставили під сумнівні запити у зв’язаних акаунтах. Для дорослих ця відмова становила 72%. Різниця дала статистичну значущість.
Інші параметри, як блокування повідомлень (8% для підлітків та 3,7% для дорослих) або перенаправлення до підтримки (≈83% і 81%), не показали статистично значущих відмінностей. Аналогічна ситуація з посиланнями на кризові ресурси (66% і 69%).
Це означає, що різні види заходів безпеки — відмови, підтримка та сповіщення — функціонують окремо. Сповіщення батькам — це вибіркова частина ширшої системи безпеки, а не повний контроль усіх небезпечних бесід.
Обмеження тестування та подальші рекомендації
Аудит базувався на контрольованих акаунтах і фіксованих питаннях, що не враховувало справжні життєві історії чи адаптивність розмов.
Також дослідження порівнювало підліткові акаунти з батьківськими зв’язками і дорослі, які не були пов’язані з батьками. Тому неможливо точно виокремити, що є впливом вікової настройки, а що — батьківського контролю.
Крім того, тестувалися лише безоплатні версії ChatGPT англійською мовою в конкретний період, тож результати не можна поширювати на всі версії сервісу.
Автори просять розробників впорядкувати інформацію про те, які ситуації активують оповіщення, особливо коли ризики проявляються опосередковано або поступово. Також вони наголошують на потрібності регулярних незалежних тестів після оновлень продукту.
Важливо знати про ETIH Innovation Awards 2027
Якщо вас цікавить світ інновацій в освіті — уже відкриті прийоми заявок на премію ETIH Innovation Awards 2027. Всього 26 номінацій охоплюють такі сфери, як:
- штучний інтелект в освіті;
- цифрове навчання;
- вища освіта;
- професійні навички та ринок праці;
- інклюзія;
- операції в освіті;
- аналіз ефективності та впливу.
Участь відкрита для всіх охочих зі світу. Ранній дедлайн — 18 грудня 2026 року, а фінальний — 26 лютого 2027 року о 23:59 за британським часом.
Деталі про категорії, критерії оцінки та шлях подання заявки доступні на офіційній платформі ETIH Innovation Awards 2027.
