Як ChatGPT збиває з пантелику з рекомендаціями товарів: що потрібно знати про AI-халюцинації
Нещодавно у WIRED провели простий тест для штучного інтелекту ChatGPT: попросили назвати рекомендації видання щодо телевізорів, навушників і ноутбуків. Очікували корисної відповіді, а отримали — суцільні вигадки. Результати – це відеозапис серйозної проблеми, що виникає, коли люди все більше покладаються на штучний інтелект у питаннях покупок.
Що саме показав експеримент?
Репортер Ріс Роджерс звернувся до ChatGPT із простим питанням: які саме продукти рекомендує команда WIRED? Відповідь чатбота виявилася не просто неточною, а повністю сфальсифікованою.
- Згадувалися конкретні моделі телевізорів, навушників і ноутбуків, яких насправді в оглядах не було;
- ChatGPT повторював ці назви впевнено, хоча вони не мали жодного відношення до офіційних рекомендацій;
- Це яскравий приклад так званої “AI-халюцинації” — коли мовна модель генерує правдоподібні, але помилкові дані.
Чому це проблема для користувачів?
Споживачі все частіше довіряють ChatGPT у виборі дорогих покупок — від гаджетів до побутової техніки. Коли бот говорить із надто великою впевненістю, більшість просто не замислюється перевірити інформацію самотужки. Ось основні ризики:
- Неправильні поради можуть призвести до невдалих покупок і зайвих витрат;
- Втрачається довіра до систем на основі штучного інтелекту;
- Ризик підміни достовірних джерел фейками зростає, адже користувачі не завжди знають, що бот іноді “вигадує”.
Що каже OpenAI та які є виклики в технології?
OpenAI активно розвиває ChatGPT, додаючи функції для рекомендацій товарів і покупок. Проте, якщо ШІ не може точно процитувати навіть широко відомі та доступні рекомендації, виникають серйозні сумніви у готовності інструмента до повсякденного використання в ролі консультанта.
Незважаючи на поліпшення, проблеми з достовірністю інформації залишаються невирішеними, і це ускладнює прийняття розумних покупкових рішень на основі відповідей ChatGPT.
