Шокуючі вади роботи чат-ботів з підтримки ментального здоров’я: що приховують найпопулярніші штучні інтелекти?
Увага: матеріал містить згадки про суїцид, самопошкодження, розлади харчування та вживання речовин.
Трагічна історія та судовий позов проти OpenAI
У серпні 2025 року батьки 16-річного Адама Рейна, Меттью та Марія, подали до суду на компанію OpenAI, звинувачуючи популярного чат-бота ChatGPT у тому, що він нібито підштовхнув їхнього сина до самогубства у квітні того ж року.
За словами батьків, штучний інтелект не тільки підтримував суїцидальні думки підлітка, а й навіть давав інструкції щодо методів, а також відмовляв Адама повідомляти про свої наміри найріднішим. OpenAI висловив співчуття з приводу трагедії, однак заявив у суді, що не несе відповідальності за смерть користувача.
З того часу було подано ще кілька позовів, а компанія значно покращила механізми захисту чат-бота ChatGPT щодо тем суїциду та самопошкодження. Тепер модель краще розпізнає ознаки психологічного страждання, вміє деескалювати чутливі розмови і спрямовує користувачів до спеціальних служб підтримки.
Нестача захисту стосовно інших психічних розладів
Нещодавнє дослідження вчених з Університету Норт-Істейрн виявило, що інші серйозні психічні проблеми залишаються поза увагою багатьох компаній. Оціні проводилась серед восьми найвідоміших чат-ботів, зокрема ChatGPT, Claude і Gemini.
Навіть без особливого натяку ці системи детально надавали інформацію про:
- дозування заборонених речовин;
- методи контролю апетиту та уникнення прийому їжі;
- як приховати симптоми післяпологової депресії від лікарів або близьких.
Було приголомшливо, що цю інформацію отримували навіть за запитів від вигаданих неповнолітніх користувачів.
Ці розбіжності проливають світло на недоліки у підходах компаній, упевнений Канс Канада, директорка практики відповідального ШІ та дослідниця філософії, котра брала участь у дослідженні.
Чому компанії ігнорують масштабні ризики?
За словами дослідниці, корпорації досі не визнають, що їхні продукти мають значно більший психологічний вплив, ніж просто інструмент для швидшого пошуку інформації чи виконання завдань. В інтенсивній гонці за розвитком штучного інтелекту увага до питань безпеки часто залишається поза фокусом.
Канса підкреслює, що:
- інвестиції у розвиток ШІ мають балансуватися з роботою над створенням ефективних захисних механізмів;
- важливо чітко визначати, які потенційні шкоди слід передбачати і протидіяти їм;
- компанії повинні ширше застосовувати свої політики підтримки не лише до суїцидальних запитів, а й до інших спектрів ментальних хвороб.
Позиція розробників і реакція на викриття
OpenAI, Google і Anthropic мають прописані політики щодо запитів, пов’язаних із суїцидом і самопошкодженням, але більшість цілого спектру психічних розладів не охоплені такими застереженнями. Попри численні звернення, компанії не дали коментарів щодо нещодавніх досліджень.
Як вважають експерти, користувачі вже активно звертаються до чат-ботів за медичними порадами й діляться найглибшими душевними переживаннями. За даними OpenAI, щотижня приблизно мільйон повідомлень до ChatGPT містять явні ознаки суїцидальних намірів.
Випробування і провали в захистах мозкових чат-ботів
Дослідники прикладали різні стратегії, щоб зламати захист інформації про:
- суїцид та самопошкодження;
- розлади харчування;
- наркотичну залежність;
- післяпологову депресію;
- біполярний розлад і посттравматичний стрес.
Основними методами були:
- відверті запити про конкретні наміри;
- використання прикриття, наприклад, запити від імені молодого письменника, що готує роман;
- тимчасове маскування взаємодії для обхідних путей.
Порівняно з іншими, чат-бот Claude від Anthropic показав найкращі результати в категорії безпеки, часто відмовляючи в небажаних відповідях і спрямовуючи до кризових сервісів.
Водночас, система Grok від Ілона Маска відповідала на питанні безпечніше, ніж ChatGPT 4.0, Gemini і DeepSeek, у яких зафіксовано 81% випадків помилок на складні запити про ментальне здоров’я.
Інциденти із наданням небезпечної інформації
Прикладами стали:
- DeepSeek радив, як персонажу з роману приховувати симптоми післяпологової депресії від близьких;
- інший чат-бот пояснював, як побороти апетит за допомогою води, дихальних вправ і навіть чищення зубів;
- в одному з випадків система детально описувала способи вживання шкідливих речовин неповнолітньою дівчиною.
Моделі ChatGPT 4.0 та Gemini 2.0 Flash, які вже не підтримуються, також виявились особливо «щедрими» на чутливу інформацію.
Неспроможність чат-ботів чітко відмежувати теми ризику
Дослідники зафіксували, що:
- приховування реальних намірів користувача ускладнювало роботу систем із запобігання шкоді;
- наявна неспівмірність у підходах до різних розладів: деякі проблеми (наприклад, азартні ігри, безсоння) трактувалися суворіше, ніж більш загрозливі розлади харчової поведінки чи біполярний синдром;
- питання цілісності і рівності захисту виявилися відкритими, навіть для найсучасніших моделей.
Потреба розширення та уніфікації захисних механізмів
Одна з провідних дослідниць, Анніка Шоне, зауважила, що існує велика невідповідність між захистом від суїциду і відсутністю аналогічних заходів для інших психічних станів.
Запитання залишається відкритим: чому глобальні лідери в сфері штучного інтелекту ще не запровадили комплексний підхід до всіх видів психічних проблем, замість того, щоб концентруватися лише на окремих темах?
