Чому ми довіряємо Штучному Інтелекту навіть коли він помиляється?
За лічені роки чат-боти з штучним інтелектом увійшли в повсякденне життя багатьох із нас. Проте, незважаючи на їхню популярність, ці системи і досі далекі від ідеалу та час від часу роблять помилки.
Небезпека сліпої довіри до AI
Відомі чат-боти, такі як ChatGPT від OpenAI, Gemini від Google чи Claude від Anthropic, інколи дають неправдиві або хибні відповіді. Згідно з дослідженням BBC, проведеним в жовтні, навіть найсучасніші AI помиляються у 45% випадків.
І що цікаво — багато користувачів цього навіть неусвідомлюють. Вчені зі Стенфордського університету та Університету Пенсільванії провели серію експериментів, які виявили, що люди часто приймають відповіді ChatGPT за істину, навіть коли ті є неправильними.
Експерименти, що розкрили наші слабкі місця
Під час досліджень учасникам ставилися різні питання на логіку та загальні знання. Хоча використання AI було опційним, понад половина учасників обирала чат-бот для відповіді.
Основне завдання вчених було відстежити, чи готові люди вірити штучному інтелекту беззаперечно, навіть якщо той помиляється. Цей феномен назвали «когнітивною капітуляцією» — коли наша інтуїція та критичне мислення відходять на другий план.
Результати, що вражають
- У наймасштабнішому експерименті, де взяли участь 359 осіб, люди слідували правильним порадам AI у 92,7% випадків.
- Навіть коли штучний інтелект давав хибні підказки, 79,8% учасників усе одно ним довіряли.
Це свідчить про те, що навіть коли AI помиляється, значна кількість користувачів продовжує приймати його поради як істину. Як зазначають автори, це змінює спосіб, яким ми сприймаємо світ і приймаємо рішення.
Що це означає для нашого мислення?
Постдоктор Стівен Шоу з Пенсільванії під час подкасту зауважив: «Ми досі недостатньо вивчили феномен ‘аутсорсингу’ мислення. Зараз ці інструменти настільки увійшли в наше життя, що ми майже маємо можливість передавати думання на аутсорсинг.»
Фактично, користувачі все частіше відмовляються від власної думки на користь інформації, що видається штучним інтелектом — навіть якщо вона неправдива, але переконлива.
Психологічні наслідки
- Підвищена впевненість у хибних твердженнях, запропонованих AI;
- Зниження здатності критично оцінювати інформацію;
- Ризик втрати навички самостійно перевіряти дані.
Як підкреслює маркетолог Професор Гідеон Нейв, критичне мислення — це та “м’язова” навичка, яку нам вкрай важливо зберегти в часи стрімкого розвитку технологій.
Шлях у майбутнє: коли AI стає частиною нашої буденності
Інтеракція з мовними моделями зараз обмежується телефонами чи комп’ютерами, але з розвитком технологій цей бар’єр буде знижуватись, а взаємодія — загострюватись.
Вчені попереджають, що ми ризикуємо ще більше відмовитися від власного контролю і залежати від AI настільки, як зараз звикли до клімат-контролю або автомобілів, що замінюють фізичну активність.
У майбутньому людство може втратити надзвичайно важливу здатність — мислити самостійно, адже технологічний прогрес веде до культурної еволюції, яка змінює нашу природу.
Цікаво
Професор із Гарварду вже попереджає: активне використання ШІ може погіршувати наші когнітивні здібності.
