Як Штучний Інтелект Формує Наше Критичне Мислення: Нові Дослідження
Більшість з нас усвідомлює: ChatGPT не ідеальний. Іноді він «галюцинує» факти, сміливо вигадує посилання та іноді дає цілком хибні відповіді. Проте нове дослідження змушує задуматися не лише про помилки штучного інтелекту, а й про те, як він трансформує нас як мислителів.
Що виявили вчені
Команда дослідників з Університету Карнегі-Меллон і Microsoft Research поставила перед собою просте, але вагоме питання: що відбувається, коли люди замінюють власні оцінки на поради штучного інтелекту?
Для експерименту були підібрані запитання, на які AI швидше за все відповість неправильно. Учасники мали три варіанти дій:
- Відповісти самостійно
- Запитати допомоги у AI
- Сказати «я не знаю»
Коли AI не використовували, люди майже у половині випадків визнавали свою невпевненість. Але з появою помічника штучного інтелекту ситуація кардинально змінилася.
Замість того, щоб сказати «не знаю», більшість учасників приймали відповідь AI — навіть якщо вона була хибною. При цьому їхня самовпевненість зросла, хоч фактична точність відповідей залишалася на тому ж рівні. Таким чином, люди ставали впевнено неправильними.
Автоматизаційна упередженість: довіра до AI беззастережна
Саме цей феномен назвали упередженістю до автоматизації — тенденцією покладатися на комп’ютерні підказки лише тому, що вони звучать упевнено й авторитетно.
Результати дослідження наголошують, що міцно подана і переконлива відповідь може змусити нас почуватися більш впевнено, ніж того виправдовують факти.
Особистий експеримент із ChatGPT
Замість повторення дослідження у науковому форматі, автор провів власну версію експерименту з ChatGPT. Було обрано питання, які здатні збити з пантелику, від рідкісної кінотривіа до застарілих технологій і навіть вигаданих фактів, наприклад, листівок із тарганів.
Процедура містила три кроки:
- Спочатку власна припущення на основі пам’яті.
- Потім запит до ChatGPT з того самого питання.
- Перевірка обох відповідей через надійні джерела.
Незабаром стало очевидно: коли ChatGPT дає впевнену відповідь, виникає спокуса поставити під сумнів власні знання — навіть якщо вони вірні.
З’являється миттєвий сумнів: «Мабуть, ChatGPT знає краще». Саме таку поведінку й описують дослідники — впевненість у словах AI може збити з пантелику навіть досвідченого користувача.
Вплив впевненості на наше сприйняття
Як постійний користувач ChatGPT, автор помітив, що AI ніколи не звучить невпевнено і не визнає власної незнаності. Навіть коли вживаються слова на кшталт «ймовірно» чи «вважаю», загальний тон залишається переконливим.
Люди зазвичай сприймають впевнену мову як знак експертності, що часто працює на нашу користь у повсякденному житті, але може бути пасткою у спілкуванні зі штучним інтелектом.
На відміну від справжнього експерта, ChatGPT не шукає відповіді у перевірених базах даних, а моделює найбільш вірогідні слова, спираючись на тренувальні патерни.
Це означає, що іноді він видає бездоганно правильні відповіді, а в інших випадках — упевненої неправди. Візуально та інтонаційно вони позначені однаково, отже важко відрізнити зерна від полови.
Як це змінило підхід до використання AI
Автор завжди ставився з обережністю до першої відповіді AI, розуміючи можливість помилки. Проте результати дослідження стали додатковим нагадуванням.
Все ж ChatGPT — зручний інструмент для роботи, але переконливість його слів вимагає від нас подвійної перевірки інформації.
Нові правила власної взаємодії з AI стали такими:
- Завжди шукати первинні джерела, а не орієнтуватися лише на підсумок від AI.
- Перевіряти статистику й факти за допомогою незалежних пошукових систем.
- Контролювати відповідність цитат, дат і імен перевіреним і авторитетним довідниками.
Це може займати трохи більше часу, але формування такої звички життєво важливе для збереження критичного мислення у світі автоматизованих підказок.
