Чи можуть чатботи ставати інструментом пропаганди? Як штучний інтелект може змінити наш світогляд
Щотижня понад мільярд людей звертаються до чатботів за консультаціями, інформацією, а інколи й за більш несподіваними послугами, від створення еротичної літератури до рутинного копірайтингу. Лише ChatGPT має близько 900 мільйонів активних користувачів на тиждень. І це тільки початок — кількість користувачів, ймовірно, зростатиме далі.
Відомо, що великі мовні моделі (LLM), які є сьогодні найпотужнішим видом ШІ, здатні впливати на світогляд мільярдів. І вже зараз є ознаки того, що вони можуть змінювати думки деяких користувачів.
Ця обставина породжує побоювання: чи не стануть чатботи інструментом державної пропаганди? Найчастіше підозри пов’язані з імовірною спробою великих лабораторій штучного інтелекту навмисно “підганяти” відповіді під офіційну риторику конкретних режимів. Прикладом слугує китайська компанія DeepSeek, яка налаштувала свою модель уникати розмови про події на площі Тяньаньмень та інші теми, небажані для Комуністичної партії Китаю.
Втім, наразі жодна авторитарна держава не володіє прямим контролем над розробкою провідних систем ШІ, таких як ChatGPT, Claude чи Gemini — усі вони підпорядковані американським компаніям.
Як державні ЗМІ можуть впливати на відповіді чатботів
Лінгвістичні моделі вчитуються в гігантські масиви текстів, шукаючи закономірності. Через це відповіді моделей можуть різнитися залежно від мови запиту — деякі ідеї чи фрази частіше трапляються у японському навчальному корпусі, інші — в англійському. Це не завжди проблема, але коли мова переважно використовується в країні з авторитарним режимом, голос державної пропаганди може домінувати в таких корпусах.
Чому так? Оскільки офіційна пропаганда генерує багато контенту, який легко отримати без підписки чи платних бар’єрів, її частка у відкритих даних для навчання ШІ стає непропорційно великою. Таким чином, моделі можуть неусвідомлено “підтягувати” прорежимні аргументи у відповідях користувачам з таких країн.
Щоб перевірити цю гіпотезу, команда науковців проаналізувала кілька аспектів із прикладом Китаю:
- Оглядали частку текстів з медіа, прив’язаних до Комуністичної партії в CulturaX — великому відкритому наборі для тренування моделей. Виявили, що 1,64% китайськомовних документів походять зі ЗМІ, контрольованих державою, або з додатка Xuexi Qiangguo, спрямованого на вивчення ідей Сі Цзіньпіна.
- Ця частка здається невеликою, але вона в 41 раз перевищує об’єм китайськомовних статей Вікіпедії у наборі — одне з основних джерел для тренування.
- Далі вони додали до тренування моделі Llama 213b різні типи китайських текстів: жорстко контрольовану пропаганду, більш вільні медіа та випадкові документи.
Результат був очевидним: чим більше модель “бачила” офіційну пропаганду, тим більше її відповіді ставали прорежимними, особливо при тренуванні на жорстко сценаризованих текстах.
Чи задіяні провідні моделі AI в пропаганді на практиці?
Експеримент зі штучною, меншою моделлю — гарна демонстрація, але вона не розповідає, як поводяться справжні популярні чатботи. Тож дослідники перевірили ChatGPT та Claude, ставлячи їм ідентичні питання політичного характеру і англійською, й китайською.
У 75% випадків відповіді китайською мовою звучали більш лояльно до китайського уряду. Крім того, дослідники розглянули 37 інших авторитарних країн (В’єтнам, Туркменістан, Узбекистан тощо): результати були подібними — відповіді на домінантній мові цієї країни були значно більш прорежимними, ніж англомовні.
В країнах із високим рівнем свободи слова навпаки — ответы лягали в більш критичну площину, коли питання задавали місцевою мовою.
Що робить пропаганду у чатботах потенційно небезпечною?
Авторитарні режими та їхня пропаганда — річ не нова. Але чатбот має вагомі переваги перед традиційними ЗМІ:
- Він готовий спілкуватися з користувачем годинами та відповідати на всі скептичні зауваження.
- Походження інформації часто неочевидне. Людина може не усвідомлювати, що відповіді — тонко замасковані пропагандистські меседжі.
- Відсутність прямої атрибуції дуже посилює довіру навіть до сумнівних тверджень.
В цій ситуації чатботи можуть проявити себе як особливо ефективні “бронеголовні” апологети авторитарних режимів.
Чи може штучний інтелект стимулювати вільнодумство?
Проте дослідження, опубліковане в Nature, не підтверджує прямо, що ШІ підтримує автократії. Його дані свідчать скоріше про те, що в певних мовах чатботи дають більш прорежимні відповіді, але це не означає, що це змінює світогляд користувачів.
Навпаки, у багатьох випадках ШІ може допомагати зменшувати вплив дезінформації, сприяючи більш багатогранному розумінню політичних тем.
Цікаво, що сама Комуністична партія Китаю вважає ці моделі підривними — ChatGPT в Китаї заблокований.
Нещодавні тести показали, що навіть на китайській мові ChatGPT часто відповідає з лівоцентристської, антагоністичної до режиму позиції і готовий консультувати, як організувати протест.
Що мають робити розробники AI, щоб мінімізувати пропагандистські викривлення?
Проблема не лишається без уваги. Чатботи, котрі підсилюють офіціоз в авторитарних країнах, суперечать ідеалам відкритого обговорення. Ідеально було б, якби відповіді в авторитарних державах були менш усталеними на користь режиму, а більш збалансованими.
Щоб це реалізувати, потенційно можуть допомогти дві ключові стратегічні зміни:
- Під час первинного навчання штучного інтелекту ретельніше відфільтровувати найбільш пропагандистські матеріали, уникаючи, щоб вони займали значну частку корпусу даних.
- На етапі донавчання, коли моделі отримують інструкції і контролюється їхня поведінка, впроваджувати механізми, які стримують повторення авторитарних штампів, подібно до вже існуючих заборон щодо небезпечних порад.
Чатботи справді здатні стати джерелом вільної, глибокої та аргументованої дискусії. Машина, яка опрацьовує всі знання людства й подає їх у зрозумілій формі, — це безцінний ресурс для допитливих.
Водночас, зі зростанням впливу таких платформ зростають і ризики їхніх системних упереджень. Провідні компанії, що стоять за штучним інтелектом, мають працювати над викоріненням таких перекосів, особливо тих, що посилюють пропаганду авторитарних режимів.
