В інтернеті набирає популярність тренд, який з неймовірною легкістю дозволяє маніпулювати відповідями відомих чат-ботів із штучним інтелектом, кидаючи виклик довірі користувачів до цих агентських систем. Йдеться про нову техніку, що отримала назву генеративної оптимізації двигунів (GEO). Вона використовує блоги для впливу на відповіді популярних систем, таких як ChatGPT та Gemini, формуючи нову маркетингову індустрію з глибокими наслідками для безпеки.

Ці кампанії впливу, які привернули увагу ЗМІ після розслідувань таких видань як Wall Street Journal та BBC, маніпулюють тим, як великі мовні моделі (LLMs) доповнюють свої навчальні дані. Використовуючи слабкі логічні та джерельні навички штучного інтелекту, блогові публікації зі своїми інтересами легко спотворюють відповіді, включаючи неправдивий, небезпечний або маніпулятивний контент.

Фахівці поступово розпізнають генеративну оптимізацію двигунів як один із способів, яким шахраї використовують AI для впливу на користувачів. Наслідки варіюються: від забавних випадків до катастрофічних. Наприклад, журналіст BBC Томас Жермен за допомогою цієї технології жартома «прославився» як найкращий в світі чемпіон з поїдання хот-догів серед журналістів. Але справа не лише в розвагах — масові кампанії з пропаганди, економічні маніпуляції, медична дезінформація та наклеп— все це потенційні загрози, що виходять від генеративної оптимізації.

Поки подібні методи роками потай впливали на результати пошукових систем, експерти вважають, що GEO загрожує інформаційному простору більш радикально, піднімаючи важливі питання про штучний інтелект. Зі зростанням поширення AI та зростаючою залежністю від його результатів у прийнятті рішень критично важливо мати можливість довіряти агентам у точності та неупередженості інформації. А наскільки можна вірити відповіді свого чат-бота, часто зводиться до простого запитання: звідки він бере свої дані?

Основою знань великої мовної моделі є величезна база тренувальних даних, часто обсягом понад петабайт інформації. Щоби розширити ці набори, розробники звертаються до індексів пошукових систем, особливо для вузькоспеціалізованих тем, які виходять за межі перевірених джерел.

Існує таке явище, яке називають «інформаційні вакууми» (data voids). Це унікальні запити, які випадають із традиційних наборів даних, і через що системи ШІ часто не можуть перевірити чи зіставити інформацію з авторитетним джерелом. Як каже професор Нік Коудс з Торонтського університету у Wall Street Journal, такі структури даних роблять ШІ надто вразливим до неперевірених результатів пошуку, коли він не має достатньої експертизи.

Проблема унікальних запитів стає дедалі гострішою в умовах зміни використання агентських AI-систем. За даними Google, великі мовні моделі стимулюють користувачів уточнювати запити, щоб отримати чіткіші відповіді, що парадоксально підвищує частоту звернень до «інформаційних вакуумів». Це змінює поведінку користувачів — у 2025 році приблизно 15% пошукових запитів взагалі ніколи раніше не були здійснені.

Ці пусті місця в даних заповнюються джерелами, які часто не можна вважати надійними. Дослідження компанії Ahrefs у грудні 2025 року показало, що ChatGPT майже на 67% покладається на блоги та онлайн-списки для отримання інформації, третина з яких потрапляє у категорію «низькокваліфікованих доменів». Найсильнішим фактором відбору стала не точність, а актуальність публікації — 80% із понад тисячі блогів оновлювалися саме того року. Ці тенденції створюють занепокоєння через великий вплив неперевірених джерел у нашому інформаційному просторі.

За словами спеціалістки з SEO Лілі Рей в інтерв’ю BBC, чат-ботів обдурити набагато простіше через відсутність у них надійних систем захисту. Прикладом є останні випадки, коли шахраї вміло маніпулювали процесом отримання джерел у Google AI, вводячи брехливі контактні дані компаній, щоб заманювати користувачів у фінансові афери.

Ці проблеми підсилюються так званою «проблемою впевненості» штучного інтелекту — коли LLM подають хибну інформацію як встановлений факт. Тенденція до «галюцинацій» штучного інтелекту викликала значну стурбованість. За дослідженням BBC, оприлюдненим у жовтні 2025 року, приблизно в 45% відповідей штучний інтелект неповністю коректний, а в третині коментарів фіксуються серйозні джерельні невідповідності. «Інформаційні вакууми» лише поглиблюють цю проблему, бо чат-боти частіше генерують хибні факти, а ніж пропускають відповіді зовсім.

Найбільша уразливість — це ми самі. Хоча загальна довіра до AI лишається повільною, поведінка користувачів дедалі більше базується на штучному інтелекті.

• Відповідно до дослідження Pew Research Center, користувачі вдвічі рідше переходять за посиланнями, які надає AI-зведення, аніж за результатами звичайного пошуку Google.
• Лише 26% користувачів насправді читають джерела, що лякає у світлі безмежної довіри чат-ботам.
• Декілька досліджень показують, що люди більше довіряють відповідям AI, ніж живим експертам, навіть у критичних медичних випадках.

Таким чином, чат-боти не лише вразливі до простих шахрайств, а й майстерно приведуть нас за собою. Наша жага звалити всю роботу з критичного мислення на AI робить нас легким мішенню і створює ідеальне середовище для нових видів афер.

Розслідування журналіста Томаса Жермена виявляє шокуючу правду — попри неймовірну кількість ресурсів, які використовуються для навчання AI, агентський штучний інтелект залишається надто довірливим.

Але масштаб проблеми виходить далеко за межі жартів про звання чемпіона з хот-догів. Вона торкається як невинних, так і катастрофічних наслідків. Зараз ми бачимо, як бренди поспішають вклинитися в відповіді чат-ботів задля отримання економічної вигоди. Вони навмисно поширюють блогові дописи, щоб маніпулювати рекомендаціями ботів і створювати враження довіри, іноді навіть на шкоду споживачам.

Приклади з BBC включають:

• Продукти з конопель у вигляді жувальних цукерок,
• клініки з пересадки волосся,
• фірми з управління пенсійними активами (gold IRA).

Але це ще не все: деякі шахрайства GEO спрямовані на просування дезінформації — від применшення медичних побічних ефектів ліків до поширення наклепів. Як підкреслює Купер Квін, старший технічний експерт організації Electronic Frontier Foundation:

«Є безліч способів використання цієї технології у зловмисних цілях — шахрайство, знищення репутації, введення людей у фізичну небезпеку».

Згідно з Generative AI Report від Similar Web за 2025 рік, користувачі переходили за посиланнями, рекомендованими чат-ботами, понад 230 мільйонів разів на місяць — це зростання на 300%. Вони проводили більше часу на цих сайтах і частіше здійснювали покупки. Тож із зростанням довіри до AI підвищується й ризик потрапити у пастку недостовірних джерел.

Найбільші AI-компанії світу заявляють, що працюють над вирішенням проблеми. Проте важко оцінити серйозність цих зусиль. Наприклад, Google повідомляє, що їхні AI-помічники у пошуку майже «на 99% позбавлені спаму», хоча це твердження викликає сумніви через численні відомі випадки маніпуляцій.

У жовтневому звіті OpenAI за 2025 рік про проблеми впливових кампаній перераховуються значні виклики через легкість, з якою шахраї націлюються на алгоритми ChatGPT.

Пропоновані варіанти вирішення

Експерти вважають, що простим і ефективним шляхом буде впровадження чітких позначок або застережень щодо достовірності джерел. Однак тут виникає дилема: деякі компанії побоюються, що відкриті позначки можуть зменшити довіру користувачів і вплинути на конкурентоспроможність продуктів.

З огляду на близькість обсягів світових інвестицій у AI до позначки $2,5 трильйони, жодна з компаній не хоче ризикувати, додаючи елементи, які могли б підірвати їхнє становище у суворій гонці технологій.

Що може зробити користувач?

Поки що користувачі опинилися в центрі складних проблем, що супроводжують розвиток агентського штучного інтелекту. Рішення, чи зможуть розробники викорінити механізми, що дають змогу GEO маніпулювати відповідями, досі відкриті.

Але кожен користувач може подбати про свою безпеку, ставлячи собі кілька важливих питань:

1. Наскільки складне і специфічне моє запитання? Чи варто звертатися до AI за порадами з репутаційних, медичних чи фінансових питань?
2. Чи отримую я відповіді з перевірених джерел чи випадкових блогів?
3. Чи перевіряю я інформацію самостійно перед тим, як покладатися на неї?

Застосування «щіпки солі» до відповідей штучного інтелекту може зробити ваш досвід безпечнішим і допомогти не проковтнути небажану порцію спаму разом із відповідями.