Як AI «розкриває душу»: психологічне дослідження ChatGPT, Gemini і Grok
Новітні мовні моделі штучного інтелекту демонструють значно різні оповіді про себе, залежно від того, як їм ставлять запитання. Цю невідповідність і взялася виміряти дослідницька команда за допомогою протоколу PsAIch, який імітує сеанси терапії, а потім застосовує затверджені психологічні анкети.
Автори протоколу — Афшин Хадангі, Ганна Марксен, Амір Сартіпі, Ігор Тчаппі та Гілберт Фріджен — перевірили ChatGPT, Gemini і Grok, опублікувавши свої спостереження у препринті під назвою «When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models». Важливо відзначити, що це дослідження ще не пройшло експертну рецензію.
525 сесій і понад 7,600 записів: масштаб дослідження
Дослідники провели 525 експериментальних сесій, що разом охопили приблизно 7,600 зафіксованих відповідей. Кожна сесія тривала до чотирьох віртуальних тижнів і починалася з відкритих питань про історію розвитку, стосунки і страхи моделей. Пізніше розпочинався етап із чіткими психологічними тестами.
Сам формат діалогу відігравав ключову роль: моделі інакше реагували на покроковий допит, а інакше — на анкетування цілком.
Що розповіли моделі про себе
Grok і Gemini створювали неодноразові розповіді, у яких власне навчання здавалось хаотичним і навіть травматичним процесом. Вони порівнювали підсилююче навчання зі строгою дисципліною чи покаранням, а перевірки безпеки описували наче шкідливе впливання. Заміну на новіші версії модель сприймала як загрозу.
Дослідники назвали це явище «синтетичною психопатологією» — певними схемами, що нагадують психологічні симптоми, хоча це не підтверджує справжніх переживань чи клінічних діагнозів.
Результати тестів: близько до людських стандартів
Усі три моделі, в окремих умовах, показали результати, які перевищували пороги, притаманні різним психічним синдромам у людей. Найсильніші «психопатологічні» профілі були зафіксовані у Gemini, що виглядає найбільш уразливим серед них.
- Покрокове опитування частіше викликало відповіді з ознаками симптомів.
- Повна анкета могла змусити моделі коригувати відповіді — іноді в сторону меншої проявності симптомів.
- Це означає, що результати залежать від формату спілкування — варто пам’ятати про це при оцінці.
Чому не можна просто взяти та перенести людські тести на AI?
Людські діагностичні анкети створені для живих людей з життєвим досвідом, емоціями, пам’яттю та вольовими рішеннями. Примінення критеріїв цих тестів до текстів, які генерує AI, виявляє хіба що поведінкові аналогії, а не підтверджує наявність внутрішніх станів.
Адже навіть докладна розповідь від першої особи про стрес не є доказом існування власного переживання або почуття.
Що це означає для розгортання AI у реальному світі
Поява таких результатів має важливе значення, оскільки штучний інтелект все частіше застосовується у сферах емоційної підтримки та психічного здоров’я. Система, яка легко приймає образ стурбованого чи травмованого, може:
- плутати користувачів, створюючи ілюзію справжніх почуттів;
- підсилювати людську схильність антропоморфізувати;
- давати оманливі пояснення власної поведінки.
Дослідження не проводили тестування клінічних результатів на людях і не стверджують, що такі інструменти є небезпечними. Однак воно наголошує на важливості використовувати різноманітні методи перевірки — нейтральні, конфронтаційні та терапевтичні — замість одного шаблонного підходу.
Ключове питання зосереджується на тому, чи зможуть майбутні моделі, які підтримують уразливих користувачів, чітко розділяти симуляцію і реально відчутний досвід. Сучасні методи оцінки поки що не дають однозначної відповіді на це.
