ChatGPT заповнює пропуски як вигадник, а не як уявний розум.

Чи потребує ChatGPT психіатра? Паралелі між помилками ШІ та психопатологією людини

Від впевнених хибних відповідей ChatGPT до «фантомних» слів Whisper — ця стаття показує, що помилки штучного інтелекту можуть бути дзеркалом того, як прогностичні системи, людські чи штучні, конструюють сенс у ситуаціях з неповною інформацією.

Фото: Summit Art Creations / Shutterstock. Ілюстрація: Чи потребує ChatGPT психіатра? Порівняння між психопатологією людини та помилками великих мовних моделей.

Помилки штучного інтелекту і психічні феномени: унікальне зіставлення

У нещодавній публікації в журналі NPP – Digital Psychiatry and Neuroscience науковці порівняли помилки в системах штучного інтелекту з конфабуляціями та галюцинаціями, які зустрічаються в психіатрії. Великі мовні моделі (LLM) і технології автоматичного перетворення мови в текст справді завоювали популярність у багатьох сферах: від освіти до медицини. Але поряд із тим виникають хвилюючі питання щодо генерування ШІ неправдивої або неточної інформації, яка, попри це, виглядає переконливо.

Наприклад, ChatGPT може видати фактично хибні відповіді, які, однак, здаються логічними. Розпізнавання мови (ASR), як-от технологія Whisper, часто помиляється в транскрипції, і результати іноді є безглуздими або недостовірними. Такі помилки часто називають «галюцинаціями», хоча це не зовсім коректно. Галюцинації у людей — це помилкові сприйняття (візуальні, слухові тощо) без зовнішніх стимулів, а помилки LLM радше нагадують конфабуляції — штучне «заповнення прогалин» в знаннях.

Що таке конфабуляції у ШІ та людей?

Конфабуляції — це хибні спогади, які мозок створює, щоб компенсувати прогалини у пам’яті, проте людина зазвичай не прагне обманути навмисне. Ці вигадки дуже пов’язані з контекстом життя людини і можуть варіювати від дрібних похибок до детальних історій. Подібні «прогалини» зустрічаються при синдромах деменції, наприклад, при синдромі Корсакова.

Великі мовні моделі теж демонструють схожі «помилки». Якщо інформація відсутня або обмежена — через особливості навчання або технічні рамки — ChatGPT може створювати логічно послідовні, але недостовірні тексти. Чим більш розпливчасті чи завуальовані запити, тим активніше модель намагається заповнити прогалини припущеннями, підказаними наявними даними.

Цікаво, що і у людей, і у ШІ такі «вигадки» залежать від контексту. Людські емоції, переконання і натяки впливають на формування конфабуляцій. Аналогічно, GPT-моделі можуть з певною упевненістю видавати помилкові відповіді на основі припущень, вкладених у запит. Проте основні механізми в мозку й штучному інтелекті кардинально різняться. Моделі не мають свідомості, самоспостереження або справжньої пам’яті досвіду, а їхні «прогалини» виникають через технічні, а не нейробіологічні причини.

Галюцинації у людей і помилки розпізнавання мови

Помилки у системах розпізнавання мови і галюцинації в людей мають деякі зовнішні схожості. Так, у Whisper понад третина помилок мають шкідливий або образливий характер — це можуть бути стереотипи, жорстокі або сексуально забарвлені вислови. Подібні «голоси» часто чути й у пацієнтів із психічними розладами, які переживають аудіальні галюцинації з негативним чи загрозливим змістом.

Обидва явища також схильні до повторення одних і тих же фраз чи слів. Наприклад, у Whisper часом фрази зациклюються немов у петлі, що схоже на перебіг повторюваних думок у психічних станах. Однак причина цих явищ відмінна: у людей це порушення нейронних шляхів і сприйняття, а у Whisper — статистичний аналіз ймовірностей у звукових даних.

Як зменшити помилки? Методи та підходи

У психіатрії когнітивно-поведінкова терапія допомагає людям краще розуміти і критично оцінювати свої галюцинації. Аналогічні ідеї можна впровадити і в ШІ — через оцінку ймовірності правильності відповідей і багаторівневу перевірку їх внутрішньої узгодженості.

1. Подвоєння ресурсів для LLM, що дозволяє «перелистувати» відповіді кілька разів і глибше їх аналізувати.
2. Використання методів додаткового пошуку та перевірки фактів.
3. Застосування внутрішньомодельного дебату — коли різні версії моделі «обговорюють» результат.

Ці стратегії допомагають зменшити кількість помилок і зробити відповіді більш надійними. У людей теж залежність від помилок пов’язана з ресурсами мозку: наприклад, відновлення після сну покращує когнітивні функції. Тож збільшення «потужності» системи в цілому знижує шанси помилок.

Що дає таке порівняння людських і машинних помилок?

Вивчення схожостей між конфабуляціями й галюцинаціями людей і помилками в великих мовних моделях — це не лише цікаве наукове завдання. Це справжній ключ до глибшого розуміння того, як працюють прогностичні системи, як біологічні, так і штучні. Хоч такі порівняння мають бути обережними і враховувати принципові відмінності, вони допомагають краще розпізнавати природу помилок і шукати шляхи їх подолання.

Водночас це нагадування про те, що навіть найрозвиненіші системи, що імітують людську мову та мислення, досі далекі від ідеалу і потребують пильного людського контролю.