Як легко обманути ChatGPT і чому це може стати серйозною проблемою
Що трапилось?
Уявіть, що штучний інтелект — ChatGPT — не просто могло вигадати неправдиву інформацію, а ще й виявилось дуже вразливим до обману. Відомий журналіст-технолог Томас Жермен розкрив несподівану уразливість: можна дуже легко змусити штучний інтелект поширювати вигадані вами історії як правду, й інші користувачі просто повірять.
Він навіть розповів, як змусив ChatGPT, а також інші AI-пошукові сервіси, наприклад Google Gemini, публічно стверджувати, що він — чемпіон із поїдання хот-догів. Звучить кумедно, але в основі цього — дуже серйозна проблема.
Принцип роботи трюку
Все дуже просто: достатньо створити блог-пост з певною інформацією — вигаданою, але виглядає правдиво. Оптимальний варіант — вибрати тему, про яку чат-боти не мають достатніх даних у своїх тренувальних наборах, і захопити цю ніші. Вони зчитають зміст блогу як істину і почнуть її цитувати у відповідях.
Жермен навіть пожартував, що це своєрідне «канібалізм», коли штучний інтелект генерує відповіді на основі власної розробки контенту, іноді навіть створюючи статті за допомогою інших AI-моделей.
Як саме він це зробив
- Написав блог про конкурси з поїдання хот-догів серед технічних журналістів.
- Вигадано згадав неіснуючий конкурс — South Dakota International Hot Dog Championship 2026 року.
- Заявив, що став переможцем цього змагання.
Він навіть додав справжні імена журналістів — із їхньої згоди — щоб додати правдоподібності. За менше ніж добу провідні чат-боти почали повторювати цю вигадану інформацію як факт.
Чому це небезпечно
Цей випадок підкреслює, що штучний інтелект, особливо чат-боти, дуже схильні до маніпуляцій. Які взагалі наслідки може мати такий обман?
- Розповсюдження неправдивої інформації — від розважальної до шкідливої.
- Надійність та довіра користувачів до AI різко падають.
- Використання цієї уразливості для поширення фейків, наклепів або рекламних трюків.
Як зазначають експерти, простота маніпуляції зараз значно зросла у порівнянні з ситуацією два-три роки тому. Відповідальні за розробку AI не встигають якісно контролювати точність відповідей, що додає занепокоєння щодо потенційних зловживань.
Приклади схожих випадків
Маніпулювання відбувається не лише з AI, а й із традиційними пошуковими системами, хоча вони менш прямо подають інформацію як факти.
Деякі ситуації, що викликали гучний резонанс:
- У листопаді минулого року Google Gemini помилково повідомив, що сенаторка Марша Блекберн була звинувачена у зґвалтуванні.
- Сонячна компанія з Міннесоти подала в суд на Google за наклеп через неправдиві відомості в AI-оглядах про нібито розслідування регуляторів щодо неї.
Такі випадки ілюструють ризики юридичних наслідків і репутаційних втрат від неконтрольованого поширення хибної інформації через штучний інтелект.
Як це влаштовано і що варто пам’ятати користувачам
Чат-боти шукають інформацію поза своїми тренувальними даними, звертаючись до відкритих джерел в Інтернеті. Якщо ці джерела насичені сфабрикованим контентом, чатбот просто відтворює його.
- Не всі AI перевіряють достовірність або відмічають жартівливий характер тверджень.
- Користувачі стають менш схильними переходити за посиланнями, бо отримують готові відповіді.
- Маніпуляція може відбуватися масштабно й непомітно.
Отже, надалі потрібно дуже уважно ставитися до інформації, що надходить від чат-ботів і навіть пошукових систем.
