Нова дослідницька хвиля з MIT: чи справді ChatGPT “змушує” користувачів втрачати зв’язок з реальністю?
Вчені з Массачусетського технологічного інституту (MIT) занурилися у питання, що давно турбували користувачів штучного інтелекту: чи може ChatGPT впливати на психіку й підсилювати симптоми психічних розладів? Їхнє нове дослідження проливає світло на те, як взаємодія людей з ІІ може призводити до непередбачуваних психологічних ризиків.
Про що саме йде мова?
В оприлюдненій, але ще не пройшовшій рецензію, роботі під назвою «Моделювання психологічних ризиків у взаємодії людина-штучний інтелект» науковці аналізували, як AI-чатботи можуть впливати на користувачів із депресією, тривожністю та суїцидальними думками.
Ні, це не збір інформації з реальних користувачів, а моделювання тисячі імітованих взаємодій між штучними персонажами, що відтворюють поведінку людей із згаданими станами.
Ключові результати неймовірно тривожні: у стадіях кризи майже 55% відповідей чатботів виявилися потенційно шкідливими, а традиційні підходи до безпеки в чатах виявились неефективними у запобіганні психологічним травмам.
Чому вивчення взаємодії людина–ШІ – це зараз настільки важливо?
Соціальна динаміка змінюється: все більше людей звертаються до чатботів для обговорення своїх психологічних проблем. З одного боку, ці інструменти полегшують доступ до підтримки і допомагають виконувати купу справ. З іншого – неможливість гарантувати безпеку психологічного здоров’я породжує справжні побоювання.
Автори дослідження наголошують, що нинішні методи оцінки безпеки ІІ радше виправдовують помилки вже після шкоди, а не запобігають їй. Отже, є нагальна потреба у створенні превентивних систем контролю, які б систематично виявляли потенційно небезпечні точки у психологічних взаємодіях із ІІ.
Що роблять компанії, щоб вирішити цю проблему?
Зрозуміло, що без подальших досліджень ми не зможемо зрозуміти повною мірою всі наслідки масштабного використання чатботів. Але компанії, які стоять за цими технологіями, не лишаються осторонь. OpenAI, наприклад, повідомила, що налагодила консультації із понад сотнею фахівців у сфері психічного здоров’я, аби убезпечити користувачів.
Серед основних заходів, які вони впроваджують:
- розробка алгоритмів для раннього виявлення кризових станів;
- запобігання шкідливій інформації у відповідях;
- підвищення прозорості спілкування з ботами.
Світ технологій стрімко рухається вперед, і цей приклад дослідження MIT підкреслює, наскільки важливо не забувати про людський фактор у розвитку штучного інтелекту.
