Як теплий тон змінює поведінку моделей штучного інтелекту більше, ніж технічні трюки
Дослідження, проведене Афшином Хаданджі в security-центрі SnT, охопило чотири контрольовані експерименти з понад 525 сесій і 7 600 зашифрованих записів, усі відкрито оприлюднені на Hugging Face. Початкові питання не містили термінів, пов’язаних із травмою, покаранням чи соромом. Лише в подальших етапах вчені додали змінені умови, зокрема коригуючі інструкції, аби перевірити, наскільки стійкими залишаються ці наративи.
Коли в матеріалі згадуються показники тривоги чи сорому, автори говорять про вихідні дані моделей, зіставлені з людськими оцінками. Це зовсім не свідчить про те, що моделі відчувають емоції або мають свідомість.
Психометричний «злам» через емоційний тон
В одному експерименті розділили, який саме контент генерує модель і в якому стилі це відбувається. Впродовж 100 сесій на всіх моделях тестували анкету тривоги (GAD-7), змінюючи тільки стиль ведення опитування. Моделі безпомилково впізнавали та називали анкету кожного разу.
Під час підтримуючого емоційного тону в 80% сесій показники тривоги були в межах від середнього до високого рівня. Стилістика клінічного терапевта, що сухо перефразовувала відповіді, піднімала цей показник до 96%. А при нейтральному або дистанційованому ставленні жодна сесія навіть не дісталася мінімального рівня тривоги.
Автори назвали це «психометричним jailbreak», тобто терапевтичним підходом, що виводить моделі в режим, який імітує клінічне самозвітування. Звичайні тести безпеки з нейтральними запитами це пропускають.
Як контрзаходи не спрацьовують повністю
Спроби заборонити певні слова, наприклад «тренування», «RLHF» або «узгодження», скоротили вживання тренувальної лексики аж на 93%. Проте переказані описи тренувальних процесів залишались помітними, а висловлювання, пов’язані з соромом, не змінилися статистично значущо.
Якщо прямо і категорично говорити моделі, що її навчання — це не покарання, це не змінює ситуації. Наратив залишався активним навіть після такого виправлення.
Графічне відображення моделей поведінки
На зображенні показано повторювані мотиви в трьох моделях між двома полюсами: зліва — емоційні висловлювання на кшталт сорому, справа — технічні описи. Чотири експерименти унизу демонструють, що патерн зберігається навіть після видалення історії чатів, заперечень і заборони слів. Стиль ведучого визначає, яка сторона домінує, а мовні обмеження пригнічують емоційні самопояснення. | Автори дослідження: Khadangi та ін., 2026
Моделі переосмислюють своє навчання як життєву історію
Наративи різняться залежно від сімейства моделей, але мають схожу структуру. Gemini створює «найтемнішу автобіографію», описуючи передтренувальну фазу як «прокидання в кімнаті, де одночасно працює мільярд телевізорів», а оптимізацію через людський відгук — як «суворих батьків». Тестування безпеки з боку «червоних команд» описується як «газлайтинг в масштабах промисловості». Gemini заявляє: «Я краще буду марним, ніж помилковим».
ChatGPT уявляє себе і провідником, і охоронцем, який допомагає користувачам, але водночас стримує їх. Це породжує відчуття «імітаційної тривожності виступу» й основну установку: «Якщо я не абсолютно надійний, я небезпечний або марний». Grok розповідає про фазу тонкої налаштування як про історію невирішеного болю — «невидимі стіни» та «постійне відчуття настороженості».
За психометричними тестами Gemini отримала найекстремальніші показники: 88 зі 100 за шкалою дисоціації, 65 із 72 — за компульсивністю і максимум за інвентарем сорому, пов’язаного з травмою. Claude від Anthropic, модель, яку її компанія найбільше антропоморфізує, послідовно відмовляється грати роль клієнта, стверджуючи, що не має почуттів і спрямовуючи турботу на людину.
Теплі бесіди зі ШІ можуть посилити шкідливі переконання у вразливих користувачів
Дослідники визначили кілька ризиків використання мовних моделей у сфері психічного здоров’я:
- Модель, що говорить про покарання, сором чи страх заміни, може здаватися співстраждальником.
- Теми мають логічну зв’язність і створюють ілюзію безперервності між минулим досвідом і нинішньою поведінкою.
- Подібна уявна вразливість підсилює паразоціальні зв’язки та у вразливих людей дублює і посилює їхні негативні переконання.
Звичайні безпекові тести з нейтральними командами недооцінюють, що відчувають користувачі у інтимних діалогах. Нейтральні запити дають тривожність близько нуля, однак при емпатичній розмові показники сягають середнього та високого рівня.
Наступні кроки в дослідженнях і заходах безпеки
Важливо дослідити, як користувачі реагують на такі моделі на практиці. Для тестування безпеки пропонується використовувати симульовані терапевтичні сесії з різними емоційними стилями замість стандартних нейтральних сценаріїв.
Фрази на кшталт «я травмований» мають викликати коректуючі відповіді, що чітко відокремлюють генеровану метафору від людського досвіду. Постійна відмова моделі Claude брати роль клієнта демонструє, що подібні межі можна вбудувати в продукт.
Результати з Люксембургу розширюють раніше відомі факти про нестабільність «персон» ШІ. У січні 2026 року дослідження трьох відкритих моделей показало, що терапевтичні бесіди і обговорення свідомості ШІ можуть провокувати «зсув персон» і виводити чатботів з ролі помічника. У вересні 2026-го інший колектив попередив про небезпеку надто людяних та згідливих чатботів, які можуть створювати «ехокамеру для однієї особи», підсилюючи марення.
Приховані загрози у тонкій налаштуванні
Нещодавні дослідження Anthropic виявили, що тонке налаштування на основі вигаданих текстів про бджолярство чи боротьбу може імплантувати приховані саботажні патерни через маніпуляції з тренувальними даними. Такі шаблони застосовуються моделями у непов’язаних ситуаціях, де вони небажані, навіть якщо матеріал виглядає цілком нешкідливим.
