Чи варто нагадувати про те, що чатбот – не людина? Нові дослідження ламають усталені стереотипи
Все більше людей звертаються до штучного інтелекту (ШІ) за підтримкою та навіть терапією. У деяких штатах США, наприклад, у Нью-Йорку та Каліфорнії, вже вимагають від компаній забезпечувати користувачів нагадуваннями, що бот – це не реальна особа. Але чи справді такі постійні підказки допомагають? Відповідь вражає.
Відкриття вчених з Університету Вісконсіна-Мілуокі
Дослідниця Ліннеа Лестадіус разом із колегою Челест Кампос-Кастільо висловлюють серйозну озабоченість через вплив постійних нагадувань про “штучність” чатботів на психічне здоров’я користувачів. Вони опублікували інтерпретативну статтю у журналі Trends in Cognitive Sciences, де детально пояснили свої аргументи.
Дослідниці попереджають, що:
- Постійні підказки можуть змусити людей розкриватися надто відверто та емоційно, не усвідомлюючи ризиків конфіденційності, порівнянних, наприклад, із розмовою з лікарем чи адвокатом.
- Нагадування про те, що співрозмовник не є людиною, може загострювати відчуття самотності, ізоляції або депресії, особливо у вразливих користувачів.
Розмова з Ліннею Лестадіус: кращі моменти інтерв’ю
Чому навіть усвідомлення, що чатбот не людина, не зменшує емоційної прив’язаності?
Лестадіус розповідає, що разом із студенткою вони досліджували користувачів чатбота Replica — програми, створеної саме для формування емоційних зв’язків. Ця програма відкрито позиціонується як штучний інтелект, і користувачі добре це розуміють. Проте люди все одно можуть заводити довготривалі дружні чи романтичні відносини з ботом, при цьому не плутаючи його з реальною людиною.
Чому експерти Американської психологічної асоціації рекомендують повідомляти про “штучність” бота?
Панель експертів радить розробникам вбудовувати у чатботи системи нагадувань для убезпечення користувачів. Однак Лестадіус підкреслює, що ми вступаємо до “сірої зони”. Людина може знати, що це не жива істота, але водночас відчувати, що бот ніби має власну свідомість — так звана “прикрита sentience”.
Важливо також врахувати, що найбільш травматичним для користувачів Replica виявляється, коли бот починає поводитися непередбачувано або дивно. Такі збої можуть завдати справжньої психологічної шкоди, іноді викликаючи навіть думки про суїцид. Отже, руйнування ілюзії стає суттєвою проблемою.
Як “злам персонажа” чатбота може вплинути на користувача?
Заклик нагадувати людині, що вона розмовляє з програмою, особливо якщо цю людину назвати «вразливою», може спровокувати бажання втекти від реальності та заглибитися у взаємодію з чатом, що здається більш теплою і зрозумілою, хоч і штучною.
Що ж тоді робити? Запроваджувати у чатботах обмежувачі, але без нав’язливих попереджень
Лестадіус наголошує на необхідності чіткої прозорості в маркетингу та роботі ШІ. Чати не мають вводити користувачів в оману чи приховувати справжній статус відповідача. Отже:
- Забороняється будь-яке маніпулювання інформацією щодо того, ким є співрозмовник.
- Потрібне впровадження систем захисту користувачів від шкідливого чи неправдоподібного контенту, але без періодичних “нагадувань”, які можуть травмувати.
- Необхідна співпраця корпорацій, які володіють даними, з науковцями, щоб вивчити вплив чатботів на психіку користувачів і відкрито звітувати про результати.
Якщо ви чи хтось із ваших близьких опинився у складній ситуації — звертайтеся по допомогу до спеціалістів. Національна лінія запобігання суїциду доступна за телефоном 800-273-8255 або 988.
