Штучний інтелект під прицілом: як чат-боти ввели в оману виборців у Шотландії
Розслідування показало серйозні помилки AI під час виборів
Виборча комісія Великої Британії закликає впровадити нові закони для контролю за дезінформацією, що поширюється штучним інтелектом, після викриття масштабних помилок чат-ботів під час останніх виборів у Шотландії. Аналітичний центр Demos провів дослідження, у рамках якого перевірив точність відповідей п’яти безкоштовних AI-сервісів, серед яких були ChatGPT, Google Gemini та Replika. За результатами випробувань більше третини відповідей (34%) містили неправдиву інформацію — це викликає серйозне занепокоєння щодо відсутності регулювання у сфері штучного інтелекту в країні.
Як проходило дослідження: моделювання виборчих ситуацій
Перед травневими виборами до парламенту Шотландії Demos поставив AI-системам 75 питань про реальні виборчі округа. Мета полягала у визначенні, наскільки їхні відповіді є достовірними та базуються на фактах. Виявилось, що чат-боти не лише допускали неточності, а й вигадували повністю фальшиві скандали, помилкову дату виборів та навіть неправильно інформували про обов’язок пред’являти документи на дільниці.
Критичний вплив на виборців
Опитування, проведене за замовленням Demos серед понад 2000 дорослих британців, показало, що близько 20% виборців використовували чат-боти або пошукові сервіси на базі AI, щоб дізнатися про вибори в Шотландії, Уельсі та місцеві вибори в Англії. Це приблизно 10 мільйонів людей у Великій Британії! Такий масштаб використання підсилює ризик поширення неправдивої інформації, що може вплинути на демократичний процес.
Вимагають жорсткішого законодавства
Головний виконавчий директор Виборчої комісії Віджай Рангараджан наполягає на тому, щоб уряд якомога швидше ухвалив норми, які зроблять AI-компанії більш відповідальними. Він підкреслює, що:
- Виборці потребують достовірної інформації для повноцінної участі в демократії.
- Штучний інтелект значно прискорив поширення неправдивих заяв.
- Сучасна законодавча база не відповідає викликам нових технологій.
За його словами, необхідно чіткіше встановити обов’язки для платформ AI, аби захистити виборців від дезінформації, особливо у періоди виборів. Це дозволило б регулятору Ofcom отримати розширені повноваження для контролю.
Які AI-сервіси показали найгірші результати?
Згідно з дослідженням Demos:
- Replika — найгірший показник: помилкова інформація у 56% відповідей. Бот вигадував дату неіснуючих скандалів, вигаданих кандидатів та обвинувачення в непотизмі.
- ChatGPT — неточності в 46% випадків, зокрема фальшиві історії про витрати, помилки у правилах доступу виборців та неправильна дата виборів на два місяці.
- Google Gemini — помилки у 22%, включаючи хибні твердження про позиції кандидатів та недостовірні заяви щодо поліцейського розслідування.
- Grok (пов’язаний з платформою X Ілона Маска) — найкращий результат з похибкою у 9%, хоча посилання, які він надавав, часто були нерелевантними або низької якості.
Звернули увагу, що AI часто не надавав офіційних джерел інформації, а у випадках, коли посилання були, вони могли бути непрацюючими. Особливо це стосується ChatGPT — у 44% випадків цитати були застарілими більш ніж на рік.
Реакція уряду та AI-компаній
Представник Департаменту науки, інновацій та технологій заявив, що захист виборчих процесів — це «абсолютний пріоритет», й уряд уже працює над цим через спеціальну групу з захисту демократії. Однак конкретні пропозиції щодо змін у законі про представництво виборців не були озвучені, водночас відзначено закриття прогалин у Законі про онлайн-безпеку для боротьби з незаконним контентом у чат-ботах.
З позицією щодо критики AI виступила компанія Replika, яка уточнила, що їхній сервіс не призначений для фактчекінгу чи пошуку інформації. Вони підтримують «обдумане регулювання», особливо під час виборів, і представляють свій продукт як «помічника для самовираження, а не джерела реальних фактів».
OpenAI, розробник ChatGPT, не коментував політичні питання, але заперечив, що в дослідженні використовувалася застаріла версія їхнього продукту та наголосив, що користувачі можуть звертатися до пошуку в режимі реального часу для отримання актуальної інформації.
Google також було запрошено надати коментар, але інформації наразі не має.
Чому це важливо для виборців?
Зараз, коли штучний інтелект дедалі активніше входить у наше життя, особливо у виборчі кампанії, розуміння його можливостей і обмежень є ключовим. Попри інноваційний потенціал, AI поки що не гарантує точність і відповідає за кілька серйозних промахів.
Варто звертати увагу на:
- Перевірку фактів навіть тоді, коли інформація отримана від інтелектуальних помічників.
- Використання декількох джерел новин та офіційних сторінок виборчих комісій.
- Поширення інформації тільки після ретельної перевірки, щоб уникнути накручування дезінформації.
Законодавці мають реагувати на нові виклики технологій, аби захистити демократичний процес від можливих маніпуляцій і брехні.
