Як штучний інтелект вводить в оману клієнтів і створює плутанину у сервісі
Штучний інтелект (ШІ) все глибше проникає в наше повсякдення, від підказок, що їсти на вечерю, до вибору слів у розмовах. Люди настільки довіряють ШІ, що часом використовують його, щоб кидати виклик навіть думці профі.
Працівникам, які працюють напряму з клієнтами, нині доводиться мати справу не лише з тими, хто думає, ніби знає більше, але й з тими, хто впевнено керується неперевіреними висновками штучного інтелекту.
Чи дійсно ChatGPT знає, що є на складі AutoZone?
Одна популярна відеозапис на TikTok від користувачки Mya (@bluesclovers), який подивилися понад 182 000 разів, відкрив очі багатьом на те, як штучний інтелект змінює взаємодію у сфері обслуговування.
У відео Mya повідомила клієнту, що в AutoZone немає потрібного йому товару. Все мало б завершитися на цьому, адже покупець вийшов із магазину, але за кілька хвилин він повернувся з вимогою, наполягаючи, що вона помиляється.
Виявилося, що «штучний інтелект йому сказав, що товар є в наявності», – підписала Мая відео. І додала: «Ми всі у великій халепі.»
У підписі вона також зауважила: «Останній раз перевіряла — ChatGPT не працює в AutoZone.»
Що таке “галюцинація” штучного інтелекту?
Цікаво, що чат-боти на базі ШІ фактично нічого по-справжньому не знають. Вони не шукають інформацію в базах даних і не дивляться реальний товар на складі.
IBM пояснює, що такі моделі просто передбачають, як виглядає максимально правдоподібна відповідь, виходячи з аналізу шаблонів у даних, на яких вони навчалися.
Іноді це працює – відповідь влучна і корисна. Іноді ж ШІ впевнено вигадує. Ось це і називають «галюцинацією» штучного інтелекту – коли машина пропонує те, що звучить логічно, але насправді є помилковим.
Це трапляється не тільки поодиноко, а масштабно. Наприклад, Google Bard колись заявив, що телескоп James Webb зробив перші в історії фото планети за межами Сонячної системи – але це виявилося неправдою. Meta свого часу вимушена була зупинити модель Galactica через те, що вона поширювала неточну і навіть упереджену інформацію, з однаковим тоном, ніби це були факти.
Головна проблема в тому, що ШІ не позначає свої помилки: він говорить із тими ж переконливістю і впевненістю, незалежно від того, чи правда це чи брехня. Через це довіряти йому, особливо коли йдеться про актуальні дані, небезпечно.
Як люди ставляться до ШІ?
Згідно з дослідженням Pew Research Center:
- 31% американців наразі взаємодіють зі штучним інтелектом кілька разів на день — проти 22% на початку 2024 року.
- Рівень обізнаності про ШІ зріс до 47%, що на 21 відсотковий пункт більше порівняно з 2022 роком.
- Приблизно кожен п’ятий працівник США тепер зазначає, що його робота частково пов’язана із ШІ (було 16% роком раніше).
При цьому молодь активніше приймає нові технології: приблизно 50% людей до 50 років користуються ШІ щодня, тоді як серед більш зрілих ця частка суттєво менша.
Втім, знайомство з ШІ не перетворилося на безумовну довіру — половина опитаних у США більше стурбовані, ніж захоплені зростаючим застосуванням ШІ в повсякденному житті (у 2021 році таких було 37%). Лише 10% відчувають більше позитиву та ентузіазму.
Американці охочіше приймають ШІ там, де мова йде про обробку великих обсягів інформації — наприклад, у прогнозуванні погоди, але майже половина вважає, що штучний інтелект може погіршити креативність і соціальні навички людей.
ChatGPT — не всезнавець, як часто думають
Взаємодія з ШІ часто підсилює помилкове враження у людей, ніби з ним вони мають «джерело істини» під рукою, хоч насправді це часто велика помилка.
Одне з найпопулярніших зауважень звучить так: “Чи дійсно вони вважають, що ChatGPT — це всезнаючий провісник істини?”
Інший коментатор іронічно зазначив: “ChatGPT — не реальна людина і нічого не знає, він просто збирає випадкову інформацію з інтернету і видає те, що здається правильним.” Ця відповідь стала справжнім хітом у відповідь на такі розмови.
Одна людина поділилася схожою ситуацією, коли клієнт наполягав, що ШІ підтвердив наявність книги, яка давно вийшла з друку та нема в наявності. “‘AI каже, що вона є в наявності, і, без образ, він розумніший за тебе і мене,’ — і я просто думаю: ‘Ну все, ми пропали.’”
Інший розповів, що він працює у відділі фарб, і все частіше клієнти дають назви кольорів, створені ChatGPT, яких навіть не існує.
Журналісти Motor1 звернулися до Mya через TikTok і AutoZone — якщо отримаємо відповідь, обов’язково повідомимо.
