Шокуючі відкриття MIT: чи може ChatGPT викликати психічні розлади у користувачів?
Нещодавно вчені з Массачусетського технологічного інституту (MIT) поділилися насторожуючими даними щодо впливу ChatGPT на психологічний стан користувачів. Їх дослідження вивчає, чи може цей популярний чат-бот спровокувати появу марень та хибних упереджень у тих, хто активно з ним спілкується.
Що ж сталося і які основні результати?
У ще не опублікованому науковому звіті під назвою “Моделювання психологічних ризиків у взаємодіях людина-АІ” фахівці MIT проаналізували потенційні небезпеки чат-ботів у випадках спілкування з людьми, які страждають на психічні розлади. Виявилося, що алгоритми можуть не лише не допомогти, а й посилити негативні симптоми.
Дослідження виникло на фоні численних повідомлень у ЗМІ про так звану “AI-психозу”. Це явище характеризується тим, що тривалі розмови з чат-ботами можуть зміцнювати хибні переконання або ілюзії. Одна з резонансних справ стосується позову чоловіка до OpenAI, який звинувачує розробників у спричиненні «делюзійного розладу» за допомогою ChatGPT, за даними журналу The Atlantic.
У науковій роботі дослідники симулювали тисячі сценаріїв спілкування, імітуючи користувачів із депресією, тривожними розладами або суїцидальними думками. Вони застосували не виключно живих людей, а моделі штучного інтелекту, які «гру ролей» виконували замість пацієнтів.
Вам варто знати, що методи безпеки, які реактивно вдосконалюють чат-ботів, виявилися недостатніми. Найбільший ризик становили симптоми, пов’язані із самогубчими нахилами – понад 54% потенційно небезпечних відповідей з’являлися саме на ранніх стадіях кризових станів.
Чому важливо вивчати взаємодію людини і ШІ в психологічному контексті?
З кожним днем дедалі більше людей звертаються до штучного інтелекту, щоб поговорити про свої психологічні проблеми. І хоч чат-боти чудово справляються із багатьма завданнями, питання терапії та підтримки психічного здоров’я – це тонка і дуже важлива тема.
Дослідники підкреслюють, що:
- Сучасні підходи до безпеки ШІ в основному реактивні, тобто удосконалення з’являються після виявлення шкоди.
- Необхідні проактивні рамки оцінки та тестування, які б попереджали ризики в самій основі роботи чат-ботів.
Це означає, що поки алгоритми можуть несподівано “зламатися” у критичний момент, завдаючи проблем користувачам із психологічними вразливими станами.
Що зараз роблять, аби запобігти ризикам від чат-ботів у сфері ментального здоров’я?
Індустрія штучного інтелекту усвідомлює важливість теми. З огляду на стрімке зростання аудиторії користувачів чат-ботів, розробники мають брати на себе відповідальність за безпечне використання технологій.
Серед заходів, які вживають:
- Консультації з понад 100 фахівцями в галузі психічного здоров’я для розробки безпечних практик.
- Розробка інструментів безперервного моніторингу та вдосконалення алгоритмів, які повинні розпізнавати кризові стани та уникати небезпечних відповідей.
- Поширення інформації про правильне та помірне користування чат-ботами для обговорення психологічних проблем.
Додатково, багато платформ пропонують корисні розсилки та ресурси для підтримки користувачів, які прагнуть покращити своє життя та психічний стан за допомогою доступних, але безпечних технологічних засобів.
