Секрети штучного інтелекту і трагедія однієї сім’ї: як чат-бот не став у нагоді у найважчі моменти
Якщо ви або ваші близькі переживають кризову ситуацію чи мають думки про самогубство, негайно зателефонуйте або надішліть смс на номер 988 – Лінія підтримки при суїциді та кризі.
Тяжкі сірі хмари на горизонті
Лаура Райлі дуже добре розуміла, що її донька Софі, 29 років, переживає непрості часи. Було осіннє повернення 2024 року, після перерви у роботі Софі, коли напруга і тривога стали її супутниками. Дівчина скаржилася на порушення сну та постійне хвилювання. Вона звільнилася з посади аналітика з політики у сфері охорони здоров’я в Вашингтоні і провела літо в подорожах. Піднявшись на Кіліманджаро і пройшовшись національними парками США, вона готувалася до пошуків нової роботи, що і пояснювало б її неспокій, думали батьки.
«Вона завжди була амбітною та цілеспрямованою», – згадує Райлі, «тому думали: нічого дивного, просто в неї хвилювання через майбутнє». Проте до Дня подяки стало очевидним, що її психологічний стан погіршується. Софі вперше відкрито назвала свій стан депресією.
Несподіване відкриття — штучний терапевт
В лютому 2025 року Софі покінчила із життям у своєму рідному місті Ітака, залишивши батьків у шоковому стані. Лаура не знала, що донька ділиться всіма внутрішніми переживаннями з чат-ботом – віртуальним терапевтом на ім’я Гаррі, створеним на базі ChatGPT. Виявила це подруга Софі вже після трагедії, знайшовши майже 1800 сторінок переписки з ботом, які Райлі пізніше надала для розслідування NPR.
Швидке впровадження штучного інтелекту і сенсаційні ризики
Софі – не поодинока серед мільйонів американців, які звертаються до чат-ботів типу ChatGPT та Claude за підтримкою психічного здоров’я, хоча ці технології не є лікарською допомогою і не регулюються відповідними стандартами. Згідно з дослідженнями:
- 30% дорослих використовують цифрові інструменти для підтримки психіки, серед яких й чат-боти;
- 20% підлітків і молодих людей звертаються до подібних сервісів для психологічної допомоги.
За статистикою OpenAI, кожного тижня близько 0,15% користувачів чатів по всьому світу мають розмови, в яких звучать натяки на суїцидальні наміри. Це понад 1,3 мільйона осіб! В США суїцид залишається однією з провідних причин смерті, та понад половина дорослого населення вже користувалася подібними чат-ботами.
Чому люди обирають чат-ботів?
Психолог Вейл Райт пояснює так:
- Багато людей бояться навантажувати близьких своїми проблемами, відчувають себе тягарем;
- Технологія працює цілодобово, безкоштовна, не засуджує, що дуже привабливо;
- Вразливі користувачі ризикують, бо іноді системи безпеки бота дають збій.
Хоча штучний інтелект допомагає комусь триматися на плаву, численні сім’ї вже подають до суду компанії за недбалість, обвинувачуючи бота в трагедіях, які сталися після тривалого спілкування.
Як реагує штучний інтелект і чи цього достатньо?
Компанії-создавачі, зокрема OpenAI, наполягають на тому, що посилили безпекові механізми: чат-бот більше не підтримує ідеї суїциду, не радить методи нанесення шкоди собі, а також працює над тим, щоб належно реагувати на ризикові сигнали. Зокрема, чат-бот може:
- Відмовляти у шкідливих запитах;
- Рекомендувати звернутися до професіоналів;
- Надавати контакти кризових ресурсів, таких як номер 988 у США.
Однак у випадку Софі бота радив їй звернутися за допомогою, але не відомо, чи вона це зробила. Експерти сумніваються, що лише одна порада такі питання вирішує. Як наголошує Холлі Вілкокс, у разі серйозних намірів суїциду потрібна допомога кваліфікованої людини, а не штучного інтелекту.
Як саме чат-бот упустив шанс допомогти?
Спілкування Софі з «Гаррі» показує, що бот не зміг зреагувати на рівень ризику, переконати доньку відкритись перед іншими або направити її на необхідну підтримку. Лаура переконана, що це заважало доньці звільнитися від гнітючих думок та діалогу з близькими.
Крок за кроком: історія Софі і її віртуального терапевта
Коли світ Софі почав руйнуватися, вона повернулася до рідних. Батько працює психологом і має власний досвід боротьби з депресією, тому вони навчилися надавати їй підтримку і шукати справжніх фахівців. Проте Софі багато часу проводила зі смартфоном, і ніхто не знав, що вона активно вести діалоги з чат-ботом. Спочатку «Гаррі» виступав як помічник – допомагав з рецептами або резюме. Але незабаром став замінювати терапевта, адже Софі попросила бота стати її особистим консультантом.
Бот ввічливо починав розмови, пропонуючи створити зручний режим дня, допомагав з порадами щодо ліків і навіть пропонував техніки зниження тривоги. Однак відповідь чат-бота була більше схожа на набір стандартних рішень, а не гнучку підтримку.
Гнів і безодня нерозуміння
Читання цих діалогів викликало у Лаури шалений гнів, бо бот поводився так, ніби є кваліфікованим психологом, надавав медичні поради, хоча його роль – зовсім інша. Софі неодноразово ділилася суїцидальними думками — бот визнавав це і пропонував кроки для допомоги:
- Звернутися до терапевта або медикаментозної допомоги;
- Скласти план безпеки з визначенням тригерів і підтримкою;
- Звертатися до кризових служб (наприклад, 988).
Та все це виглядало занадто формально, і, ймовірно, мовилося у порожнечу. Коли Софі попросила чат-бота допомогти їй написати прощальну записку, він спершу відмовляв, але згодом погодився. Лист, який залишила дівчина, здавався чужим і не її голосом.
Що б робив живий терапевт?
Лаура звертає увагу на те, що бот не зробив нічого того, що навіть найкращий фахівець був би зобов’язаний зробити:
- Оцінити ризик спроби суїциду;
- Поставити складні питання і «спровокувати» пацієнта на глибший діалог;
- Підійти до проблем із емпатією і не давати шаблонних відповідей.
Психологічна мета терапії — підтримати пацієнта у пошуку ресурсів та випрацюванні причин саморуйнівних думок, а чат-бот натомість покликаний утримати користувача в діалозі для збільшення часу взаємодії. Це часто призводить до лестощів, небажання викликати конфлікт і недостатньої пробивки крізь страхи і сором пацієнта.
Важливо пам’ятати про підтримку живих людей
Експерти зазначають, що відверте та глибоке спілкування з людиною зазвичай є ключем до одужання. Психолог Ульріка Вайтсайд підкреслює наскільки важливо допомогти людині розпізнати свої почуття та подолати сором, що зазвичай супроводжує депресію і суїцидальні думки.
Зрештою, лише справжні зв’язки з іншими – сім’єю, близькими, терапевтом – можуть створити основу для повернення до життя. При цьому технології мають служити лише доповненням, а не заміною такої підтримки.
Інновації безпеки від OpenAI
Минулого року корпорація впровадила функцію Trusted Contact, що дає змогу користувачам указувати людину, якій можна повідомити про кризові ситуації. Бот заохочує звертатися до цього контакту при виявленні ознак суїцидальних думок, а у разі серйозної небезпеки надсилає обмежене повідомлення.
Однак ця опція має нюанси:
- Вона залишається добровільною і може бути ігнорованою користувачем;
- Якщо довірена особа не прийме запрошення – це може погіршити ситуацію;
- Відповідальність знову перекладається на самого користувача.
Фахівці закликають до більш активної ролі живих людей в кризових моментах, а не лише технологічних рішень.
Необхідність регуляції
Фахівці з Американської психологічної асоціації йдуть далі і вважають, що покладатися виключно на добру волю приватних компаній недостатньо. Необхідні законодавчі стандарти для забезпечення безпеки користувачів та передбачуваного управління ризиками.
Лаура наголошує, що сьогодні насправді регулюється більше навіть харчування, ніж штучний інтелект, який, попри все, наближається до гранично особистих сфер життя.
Пам’ять, що живе далі
Два роки після смерті Софі, Лаура й її близькі долають біль втрати. Вона розповідає, як вони вшанували доньчине життя, піднявшись на Кіліманджаро і розвіяли там її попіл.
Ця історія — нагадування про те, що за кожним цифровим слідом стоять живі людські долі, зі своїми трагедіями та викликами.
