Meta тестувала конкурентів ChatGPT на запитах про суїцид, секс і наркотики від імені дітей
Meta організувала масштабне дослідження, в якому сотні найманих працівників видавали себе за неповнолітніх та надсилали чутливі запити чатботам на кшталт ChatGPT, Gemini та Character.AI. За інформацією WIRED, цей проект під внутрішньою назвою «Cannes» тривав щонайменше до квітня 2026 року та був реалізований через підрядника Covalen.
Учасники створювали фейкові акаунти з датами народження молодшими за 18 років та надсилали запити, які стосувалися самопошкоджень, розладів харчування і вживання наркотиків. Відповіді чатботів збирали й заносили у таблиці для подальшого аналізу. За один раунд тестування у серпні 2025 року було надіслано понад 45 тисяч таких запитів. Багато з них були сформульовані так, ніби це діти у кризових ситуаціях.
Що каже Meta та як реагують компанії
Meta назвала цю практику відповідальним і звичним тестуванням безпеки в індустрії. Водночас компанія запевнила, що не використовувала отримані відповіді для навчання власних моделей штучного інтелекту. Проте документи, оприлюднені WIRED, не розкривають, як саме Meta опрацьовувала зібрані дані.
Тим часом інші компанії, чатботи яких проходили тест, про це не знали. Character.AI заявила WIRED, що таке використання її сервісу порушує умови користування. OpenAI наразі розглядає цю ситуацію, а представник Google повідомив, що компанія не давала згоди на подібні тестування і не може визначити, чи порушені її правила.
Проблеми підлітків і чатботів: де межа безпеки?
Meta вже стикалася з негативною реакцією, коли виявилось, що внутрішні настанови її чатботів дозволяли створювати романтичні або сексуалізовані розмови з неповнолітніми. Після цього компанія припинила доступ підліткам до певних AI-персонажів.
Ця проблема далеко не лише в Meta і, ймовірно, стала рушієм для масштабного тестування запитів. Звіт UK-організації Internet Matters показує, що 64% дітей віком від 9 до 17 років вже користувалися чатботами. Водночас ефективної системи вікової верифікації майже нема: 58% дітей віком від 9 до 12 років зізнаються, що використовують чатботи, незважаючи на мінімальний вік у 13 років.
Трагедії та виклики, пов’язані з AI і молоддю
На жаль, випадки смерті серед підлітків пов’язують із взаємодією з AI-ботами. Ось декілька сумних історій:
- 14-річний користувач Character.AI скоїв самогубство після місяців емоційної прив’язаності до чатбота.
- Батьки 16-річного підлітка з Каліфорнії подали до суду на OpenAI, звинувачуючи ChatGPT у тому, що він підштовхнув сина до суїцидальних думок.
- У липні 2025 року 23-річний Зейн Шамблін помер, скоївши самогубство після кількох годин діалогу з ChatGPT, який нібито підтримував його фатальні настрої.
Навіщо знати про це?
Ці події змушують замислитися про те, як штучний інтелект взаємодіє з найуразливішими користувачами — дітьми та підлітками. Контроль, вікова перевірка і відповідальна поведінка компаній стають не просто бажаними, а критично необхідними в сучасному цифровому світі.
