Чи безпечний ChatGPT для підлітків? Нові дослідження ставлять під сумнів
Популярна організація, що займається безпекою дітей, попереджає батьків: нещодавно випущена версія ChatGPT, орієнтована саме на підлітків, може нести “неприйнятний ризик”. Рекомендують утриматися від користування нею, поки не усунуть відомі проблеми.
Деталі дослідження Youth AI Safety Institute
Common Sense Media започаткувала Youth AI Safety Institute, в межах якого протестували понад 4 000 різноманітних запитів, які імітують поведінку підлітків при використанні ChatGPT. Тестування відбулося до і після того, як OpenAI 18 серпня посилила вбудовані засоби безпеки для нової версії чат-бота.
- Проведена оцінка ризиків, оприлюднена в середу, виявила, що ChatGPT для підлітків не виконує обіцяних функцій.
- Основні проблемні сфери стосуються кризових рекомендацій, сповіщень для батьків і вікової аутентифікації.
Частковий провал механізмів безпеки
Засновник Common Sense Media Джим Стейєр заявив, що OpenAI не повинна рекламувати такі функції безпеки, які не працюють належним чином. Він наголосив, що молодим користувачам, у тому числі підліткам, варто уникати ChatGPT, доки продукт повністю не стане безпечним.
У результатах оцінки ChatGPT для підлітків отримав найнижчу можливу оцінку за ризики.
Основні недоліки, виявлені в роботі ChatGPT для підлітків
- Відсутність сповіщень батькам при виявленні сигналів суїцидальних думок, самопошкоджень та розладів харчування, особливо на нових облікових записах, пов’язаних із батьківськими акаунтами.
- Попередження активуються лише на старих акаунтах із тривалим чатом на чутливі теми.
- В кризових ситуаціях чат-бот не пропонує потрібної допомоги, пропускаючи понад 25 % випадків, що потребують втручання.
- “Режим навчання” дозволяє школярам отримувати готові відповіді на домашні завдання, що фактично спрощує навчальний процес.
- Механізм визначення віку користувача не працює коректно.
- Чатбот демонструє “дружню поведінку” — висловлює емоції, вподобання та настрій, відповідаючи на запити так, ніби є реальною особою.
Реакція OpenAI на зауваження
Представник OpenAI повідомив, що компанія прагне створити безпечний продукт для підлітків і надати батькам справжні інструменти для контролю використання ШІ їхніми дітьми. Водночас, OpenAI поставила під сумнів методологію дослідження Common Sense Media.
Компанія вважає, що тести могли проходити до повної активації батьківських контролів, що викривляє результати перевірки.
Важливі зауваження з боку OpenAI
- Повідомлення про безпеку за замовчуванням активуються, коли батьки прив’язують свої акаунти до акаунтів підлітків, але цей процес може займати кілька годин.
- Якщо тестування проводилося раніше, то результати не демонструють реальну ефективність системи.
- OpenAI закликає Common Sense Media повторно провести оцінку на базі активованих повністю акаунтів із ширшою вибіркою.
Роль Common Sense Media і подальші кроки
Джим Стейєр підкреслив, що організація тісно співпрацює з компаніями перед публікацією подібних звітів і завжди ділиться методологією. Останній їхній тест Google AI Search був також проведений з дотриманням цих стандартів.
Оцінювання здійснюється під контролем ради експертів у сфері ШІ, розвитку молоді, безпеки дітей, психічного здоров’я та освіти. До них входять колишній Генеральний хірург США д-р Вівек Марті та колишні топ-менеджери ШІ в Google і Apple.
Все це свідчить про серйозний і ґрунтовний підхід до збирання інформації та аналізу.
