Як штучний інтелект у сфері підтримки психічного здоров’я ігнорує культурний контекст молоді
Нові дослідження із США показали, що молоді дорослі, які звертаються по допомогу з питань психічного здоров’я до ChatGPT, часто стикаються з тим, що відповіді чатбота не враховують їхню культурну і особисту обставини. Науковці з Університету Південної Каліфорнії провели дослідження, яке розкриває, як штучний інтелект реагує на запити користувачів з різних соціальних та етнічних середовищ.
Дослідження: хто і як тестував ChatGPT для підтримки психічного здоров’я
У дослідженні взяли участь 13 молодих людей віком від 18 до 24 років, які належать до азійської, афроамериканської та іспаномовної етнічних груп. Упродовж двох днів вони брали участь у семінарі, де перевіряли можливості ChatGPT у допомозі з різними ситуаціями, пов’язаними з стресом і емоційними переживаннями.
Окрім тестування, учасники створювали ідеї щодо того, які функції штучного інтелекту допомогли б зробити підтримку більш чутливою до їхніх потреб і культурних особливостей.
Недоліки універсальних відповідей: відсутність уваги до сімейного тиску та культурних нюансів
Під час обговорень порушувалися теми шкільного стресу, тривожності в соціумі, очікувань батьків, досвіду імміграції та міжособистісних стосунків.
Незважаючи на те, що ChatGPT надавав практичні поради, учасники зауважували, що відповіді часто розглядали проблеми як виключно індивідуальні, ігноруючи культурні впливи.
Ось кілька прикладів, які ілюструють цей розрив:
- Один студент-іноземець з Азії, який зіткнувся зі стресом через навчання та мовні бар’єри, зазначив, що ChatGPT “не запитав про моє походження, тому поради були доволі загальними”.
- Інший учасник поділився, що рекомендації щодо вигорання, пов’язаного з сімейними обов’язками, зводилися до простих порад із самодогляду без розуміння культурних очікувань.
- Також були випадки неправильних припущень, наприклад, коли досвід міжнародного студента прирівнювали до життя мігранта, який оселяється назавжди у чужій країні.
Учасники наполягали, що чатботам потрібні більш цілеспрямовані питання і можливість самим розповісти про особливості свого життя, а не лише робити висновки на основі неповних даних.
Бажання персоналізації зіштовхується з викликами конфіденційності
Молодь прагнула більш “живих” і контекстуалізованих відповідей, готова була ділитися помітною кількістю особистої інформації, якщо це покращить якість порад.
Ось кілька задумок, які з’явилися в процесі дискусій:
- Введення опитувальників на вході для збору інформації про етнічність, історію імміграції, сімейне оточення та життєвий досвід.
- Можливість уникнути повторного пояснення власних обставин під час кожної розмови з помічником.
- Більше контролю користувача над тим, як обробляються його дані та інформація.
Втім, тема конфіденційності здебільшого залишалася на задньому плані. Лише одна людина згадала про ризики порушення приватності на етапі початкового опитування.
Дослідники помітили, що учасники сучасного експерименту частіше хвилювались через те, що інші люди можуть дізнатися їхні таємниці, ніж через те, як ШІ системи збирають та зберігають дані під час діалогів.
Обмеження ШІ у допомозі: де проходить межа підтримки
Ще однією проблемою стало те, що ChatGPT на початку часто давав поради в стилі терапії, а згодом уточнював, що має обмеження і рекомендував звертатися до кризових служб чи фахівців.
Учасники хотіли, щоб межі цих можливостей були чітко окреслені одразу, а не після того, як вони вже поділилися конфіденційною інформацією.
Як відповідь на це вони запропонували кілька ідей:
- Більш зрозумілі пояснення функціоналу чатбота.
- Контрольовані користувачем сценарії спілкування.
- Підсумки діалогів, що допомагають рефлексувати над використанням ШІ.
Ці рекомендації були результатом творчої роботи на семінарі і поки що не впроваджені в реальних продуктах.
Майкл Робб про важливість цифрової грамотності молоді
Голова досліджень у Common Sense Media та Youth AI Safety Institute Майкл Робб у LinkedIn наголосив:
“Цифрова грамотність для молоді має включати знання про конфіденційність та обмеження чатботів у підтримці психічного здоров’я.”
Дослідники вважають, що освіта з використання ШІ повинна йти пліч-о-пліч з ментальною грамотністю, щоб молоді люди розуміли, як чатботи працюють, їхні недоліки, ризики для приватності і чим вони відрізняються від професійної допомоги.
Особливості дослідження й перспективи
Дослідження відбулося улітку 2026 року і базується на досвіді невеликої групи з одного міста на Західному узбережжі США. Автори попереджають, що результати не відображають досвіду всіх молодих людей кольорової шкіри, а ймовірні впливи формату семінару на відповіді учасників.
Наступні плани команди науковців — адаптувати цю методологію для інших груп, зокрема підлітків молодшого віку та людей, які мають діагнози, пов’язані з психічними розладами.
Відкрито прийом заявок на ETIH Innovation Awards 2027
Прийом заявок на ETIH Innovation Awards 2027 вже розпочато! Унікальна можливість взяти участь у конкурсі у 26 категоріях, що відзначають компанії, установи, проєкти та окремих осіб, які роблять помітний внесок у сфері освітніх технологій.
Номінації охоплюють такі напрямки:
- штучний інтелект в освіті;
- цифрове навчання;
- вища освіта та розвиток навичок;
- інклюзія та операційні процеси;
- аналітика та вплив.
Усі заявки подаються через оновлену платформу ETIH.
Дати подачі:
- Пільговий дедлайн — 18 грудня 2026 року;
- Фінальний дедлайн — 26 лютого 2027 року, 23:59 за британським часом.
Ознайомитися з категоріями, критеріями оцінки та інструкціями можна на офіційному сайті конкурсу.
