- Нові дослідження показали, що провідні чатботи зі штучним інтелектом часто надають хибну інформацію про вибори
- Фахівці виявили, що системи як ChatGPT, Gemini, Claude та Grok все ще мають проблеми із перевіркою джерел що до політичної тематики та точності фактів
- Чатботи із ШІ стають авторитетними інструментами для отримання інформації, але їх надійність під час виборів поки далеко не ідеальна
Чатботи ШІ і вибори: чому інформація не завжди точна
Компанії, що розробляють штучний інтелект, активно прагнуть зробити свої чатботи основним джерелом новин та довідкової інформації. Проте останні дослідження свідчать: коли справа доходить до виборів, технології починають підводити.
Проєкт NewsBench, який займається вивченням того, як AI працює з журналістикою та новинами, виявив, що популярні чатботи неодноразово давали помилки, відповідаючи на запитання, пов’язані з виборчим процесом. Ці результати показують, що навіть найсучасніші розмовні системи штучного інтелекту досі не можна повністю довіряти у питаннях, які впливають на розуміння самої демократії.
Де криються основні проблеми у відповідях чатботів
За результатами досліджень, існує приблизно 90% ризик отримати некоректну відповідь на запитання про середньострокові вибори. Помилки можуть бути різними:
- фактичні неточності;
- виражена політична упередженість;
- посилання на джерела, підконтрольні іноземним державам;
- або поєднання усіх цих проблем одночасно.
Ця ситуація викликає особливе занепокоєння, адже вміст відповідей має бути якомога достовірнішим, особливо в такий важливий період.
Проблема пошуку надійної інформації
Ключовим недоліком є не стільки логіка чи алгоритми обробки даних — скільки процес пошуку й підбір джерел. Більшість помилок виникають через те, що чатботи використовують слабкі, неповні або неправдиві джерела ще до того, як сформулювати відповідь.
Засновники NewsBench підкреслюють, що понад 70% допущених помилок викликані саме слабкою пошуковою базою. Якщо чатбот отримує надійну інформацію, то дуже часто дає правильну відповідь. Але знайти цю інформацію стабільно — проблема залишається.
Чому це небезпечно під час виборів?
Чатбот здається впевненим, навіть якщо помиляється. Відповіді подаються у привабливій, авторитетній формі з посиланнями, що покликані вселити довіру. Неправдиві дані, впаковані таким чином, можуть здатися дуже переконливими для користувачів.
Результати досліджень показують, що чатботи можуть змішувати правдиву інформацію з помилковою настільки гармонійно, що виникає відчуття експертності, а не дезінформації. Зараз багато людей сприймають ці інструменти як основні джерела правдивих відомостей, не підозрюючи про їхні обмеження.
Як штучний інтелект бореться з виборчими викликами
Компанії, як OpenAI, Google, Anthropic, активно закликають користувачів перевіряти дані самостійно, а також укладають угоди з провідними медіа, щоб побудувати більш надійні канали передачі інформації. Втім, навіть найкращі моделі часто помиляються, особливо при роботі з некоректно сформульованими або підсвідомо упередженими питаннями, що є типовою поведінкою реальних користувачів.
Додаткові виклики та перспективи розвитку
Зі зростанням популярності чатботів розробникам доводиться балансувати на межі між швидкою комерціалізацією та дотриманням високих стандартів якості. Водночас регулятори в різних країнах по-різному підходять до контролю таких продуктів: Європа вимагає більшої прозорості, інші країни лише починають шукати оптимальні рішення.
Очікується, що майбутнє належить технологіям, які:
- забезпечать користувача чіткою інформацією про джерела;
- покращать прозорість та відслідковуваність отриманих фактів;
- впровадять надійну редакційну систему для контролю якості відповідей.
Але, на жаль, вибори не чекатимуть, поки технології стануть ідеальними. Вже сьогодні люди користуються тими інструментами, які є, і це створює додаткову відповідальність для розробників і суспільства загалом.
Слідкуйте за TechRadar у Google News, щоб отримувати якісні новини, огляди та аналітику прямо у своїй стрічці.
