Чому ми довіряємо ШІ навіть тоді, коли він помиляється?
За останні кілька років штучний інтелект, особливо чат-боти, став невід’ємною частиною нашого повсякдення. Вони допомагають шукати інформацію, приймати рішення і навіть розважатись. Проте, незважаючи на всю їхню популярність, ці системи все ще роблять досить багато помилок.
Штучний інтелект і помилки: чому це важливо
Серед найвідоміших AI-чат-ботів — ChatGPT від OpenAI, Google Gemini і Claude від Anthropic. Згідно з дослідженням BBC, найпотужніші з них дають неправильні відповіді у приблизно 45% випадків. Такий відсоток вражає і змушує задуматися: наскільки ми можемо покладатися на їхні поради?
Проблема в тому, що більшість користувачів навіть не усвідомлюють цієї реальності. Нові наукові роботи підтверджують, що багато хто довіряє ШІ беззастережно, навіть коли той помиляється.
Дослідження: «когнітивна капітуляція» перед ШІ
Нещодавнє дослідження дослідника зі Стенфордського університету і професора маркетингу Гідеона Нейва виявило цікаві тенденції. У серії експериментів учасникам пропонували вирішувати завдання на логіку та знання. Хоча використання ChatGPT було факультативним, понад 50% добровольців все одно користувалися цим інструментом.
Головне питання вчених було таким: чи готові люди вірити ШІ незалежно від правильності відповіді? Вони назвали це явище «когнітивною капітуляцією» — коли користувачі поступаються власним критичним мисленням і піддаються рекомендаціям алгоритму.
У наймасштабнішому експерименті з 359 особами люди слідували порадою ШІ у 92,7% випадків, якщо вона була правильною. Але навіть тоді, коли ШІ помилявся, 79,8% учасників продовжували довіряти його висновкам.
Що це означає?
- Коли ШІ видає неправильні поради, більшість користувачів все одно їх приймає.
- Цей феномен вказує на зростаючу залежність від технологій у процесі прийняття рішень.
- Люди дедалі частіше втрачають навички критичного аналізу інформації.
Вплив на наше мислення і майбутнє взаємодії з ШІ
Один з авторів дослідження, Стівен Шоу, розглядає можливість фактичного «передання» мислення машинам. У подкасті від університету Пенсільванії він наголошує, що сучасні інструменти ШІ настільки вбудовані у наше життя, що ми фактично отримали можливість делегувати їм мисленнєві процеси.
Джерело проблеми не лише у розвитку технологій, а й у зміні людської поведінки. Це можна порівняти з тим, як ми залежимо від клімат-контролю чи автомобілів, не докладаючи фізичних зусиль. З одного боку, це полегшує життя; з іншого — має ризик позбавити нас важливих навичок.
Основні моменти, на які звертають увагу вчені:
- Здатність критично оцінювати інформацію має залишатися пріоритетом для кожного з нас.
- Залежність від ШІ зростає через зручність і швидкість отримання відповідей.
- Потрібно навчатися і підтримувати «ментальні м’язи» для перевірки фактів і аналізу.
Науковий погляд на майбутнє
Професор Нейв і Шоу попереджають, що втрата критичного мислення може стати серйозною проблемою на рівні суспільства. Якщо сьогодні ми сприймаємо ШІ як помічника, завтра можемо опинитися в залежності від чужих алгоритмів, що формують наше сприйняття світу.
Це нагадує про культурні трансформації, які відбувалися раніше, коли людство поступово відмовлялося від деяких навичок на користь технологій. Важливо не забувати, що наша здатність мислити — це фундаментальна риса, що визначає нас як вид.
Додатково: Гарвардський професор також відзначив, що користувачі ШІ ризикують втратити когнітивні навички, що робить це питання ще більш актуальним.
