Чому варто остерігатися ботів у чатах: як Reddit бореться з фейковими рекомендаціями для штучного інтелекту
Фейкові пости не для читачів, а для алгоритмів
Наступного разу, коли ChatGPT порадить вам косметичний бренд, інструмент для проєктного менеджменту чи найкращі навушники до $200, можливо, джерелом відповіді стане коментар, залишений не справжньою людиною, а маркетинговою агенцією, яка заплатила за його розміщення. Reddit офіційно підтвердив, що тепер застосовує великі мовні моделі для виявлення такого контенту — щодня маркуються приблизно 25 тисяч спам-постів і коментарів. Сам масштаб цієї боротьби і технічна природа проблеми показують, наскільки складно повністю викорінити маніпуляції у світі штучного інтелекту.
Чому саме Reddit став довідковим джерелом для багатьох AI? Бо там – неспрощені, живі, часто емоційні дискусії, які користувачі сприймають як надійні поради від однодумців. Саме ця довіра і перетворилася на слабке місце.
Generative Engine Optimization (GEO) — нове обличчя маніпуляцій
GEO — це новий тренд після SEO у світі штучного інтелекту. Замість того, щоб просто вивести сайт у топ Google, GEO тренує вплив на відповіді AI, які формуються на основі пошуку та аналізу контенту. Такі кампанії цілеспрямовано розміщують коментарі на Reddit, які виглядають правдивими, але насправді просувають певний продукт чи бренд.
Цей підхід значно хитріший за звичайний спам. Наприклад, у коментарях можуть не приховувати реальні недоліки продукту, щоб створити враження чесності. Або бот може довго “грітися” у спільноті, перш ніж почати публікувати комерційні рекомендації. Тому системи модерації, які оцінюють лише грамотність тексту, не можуть упіймати таку фальш.
Як Reddit навчився боротися з маніпуляціями за допомогою AI
У липні 2026 року Reddit запустив оновлену систему виявлення спаму, яка теж базується на великих мовних моделях.
Ця технологія не просто шукає неякісний текст, вона аналізує поведінку акаунтів, мережеві зв’язки та стилістику. Нові акаунти відразу проходять ретельну перевірку, а групи користувачів, які узгоджено просувають контент, ідентифікуються за специфічними паттернами. Також система розпізнає, якщо пости написані з використанням схожих AI-інструментів.
За перший квартал 2026 року система блокувала близько 23 мільйонів переглядів спаму щодня, видаляла 25 тисяч фейкових постів і анулювала приблизно 2 мільйони фальшивих голосів. Це призвело до зниження впливу спаму на користувачів приблизно на 20%.
Виклики на шляху боротьби: чому проблема не зникне повністю
Навіть найкращі заходи Reddit не зможуть повністю закрити таку вразливість. Чому? Бо сучасні AI-системи, такі як ChatGPT або Gemini, використовують архітектуру retrieval-augmented generation (RAG). Це означає, що штучний інтелект не лише спирається на свою навчальну базу, а й проводить реальний пошук в інтернеті, щоб дати максимально свіжу і релевантну відповідь.
Саме ось ця індексація та довіра до відкритих веб-ресурсів — вхідні двері для GEO. Тому будь-яка платформа, що індексується RAG-системами — чи це Wikipedia, YouTube, Quora або Reddit — є потенційною ціллю для таких маніпуляцій.
Дослідники з Cornell продемонстрували, що AI не відрізняє випадковий коментар Reddit від офіційного державного сайту за достовірністю — це означає, що спрощені системи виявлення посилюють проблему, адже оптимізований GEO-контент навпаки здається більш правдивим.
Роль модераторів і цінність людського контролю
Попри автоматизацію, модерація спільнот Reddit залишається ключовим фактором у боротьбі зі спамом. За останні півроку більше половини видалених постів та коментарів обробили саме волонтерські модераторські команди.
Колишній топ-менеджер Twitter у сфері безпеки, Алекс Попкен, наголошує, що автоматизовані системи без людського втручання нездатні зрозуміти контекст на повну, а тому здатні пропустити або помилково заблокувати контент.
Reddit повідомляє, що час реакції на мову ворожнечі тепер становить менше п’яти секунд — це справді вражаюча швидкість, але саме у таких випадках машини частіше припускаються помилок.
Що чекає на GEO у майбутньому
Дні масових розсилок AI-генерованих коментарів на Reddit поступово минають. Система виявлення стає реальною та ефективною, однак GEO-індустрія не здається:
- Вони більше залучатимуть людей до редагування AI-драфтів, щоб зменшити виявлення.
- Поліпшуватимуть підготовку запитів (prompt engineering) для уникнення «підписів» AI.
- І навіть платитимуть реальним користувачам за нібито природні рекомендації — хоч це важче і дорожче контролювати.
Водночас питання відповідальності AI-компаній за якість джерел залишається відкритим. Cornell розмежував два підходи: OpenAI суттєво фільтрує контент із соцмереж (до 0.4% посилань у дослідженнях), тоді як Gemini допускає значно більше (12.1%). Озвучено це поки що не було.
Чи можна довіряти AI-рекомендаціям?
Проблема, яку виявляє GEO, не в самому спамі, а в тому, що AI не показує вам джерела й не дозволяє перевірити їх. Штучний інтелект шумить, витягує загальні патерни та видає впевнені поради, які насправді можуть бути результатом маніпуляції.
Отже, план дій для користувачів, які хочуть уберегти себе від шахрайства:
- Сприймайте AI-поради як початкову інформацію, а не остаточну істину.
- Завжди перевіряйте посилання та джерела, які наведені в відповіді.
- Порівнюйте рекомендації з інформацією з незалежних оглядових сайтів або відомих ЗМІ.
Це особливо важливо, коли мова йде про вирішення фінансових, медичних або безпекових питань.
Чи діють AI-компанії на уразливість RAG?
Публічна інформація обмежена. OpenAI вже дотримується деяких заходів щодо фільтрації джерел, зменшуючи вплив користувацького контенту. Google і його Gemini менш відкриті на цю тему.
Американська Федеральна торгова комісія (FTC) від жовтня 2024 року забороняє фальшиві огляди й підроблені показники в соцмережах із серйозними штрафами. Втім, наскільки активно ця норма застосовується до GEO, залишається питанням. Вже відбулося скасування деяких кейсів, посилаючись на підтримку інновацій у сфері AI.
Reddit — найпомітніший гравець, який проактивно бореться із проблемою, але ситуація вимагає системних змін у всій галузі.
