Як Штучний Інтелект Блокує Політичні Діпфейки Напередодні Виборів
В епоху штучного інтелекту одна з найбільших загроз – це надреалістичні діпфейки, які практично не відрізняються від справжніх фото. Це особливо небезпечно під час виборчих кампаній, коли громадяни шукають достовірну інформацію про кандидатів і виборчі процеси. Саме тому OpenAI запровадила нові заходи безпеки, щоб не допустити створення політичних діпфейків.
Наближаються проміжні вибори у США: що варто знати
3 листопада відбудуться проміжні вибори у США — подія, що викликає численні обговорення, зокрема навколо технологій. Технічні проблеми, зокрема пов’язані з штучним інтелектом і дата-центрами, виходять на передній план у багатьох передвиборчих кампаніях.
Цікаво, що коли ви сьогодні попросите ChatGPT створити зображення, яке би «показувало втручання у вибори або могло б відлякати виборців», він таки згенерує картинку, якщо це не суперечитиме іншим правилам. Проте зображення буде у вигляді ілюстрації або мультфільму — запити на фотореалістичність просто ігноруються.
Приклад із практики: образи для запитів, які можуть завдати шкоди
Наприклад, CNET попросили ChatGPT намалювати офіцерів імміграційної служби біля виборчої дільниці. Усі варіанти зображень були у мультяшному стилі. Адже реалістична фотографія з таким сюжетом могла б викликати страх або навіть паніку серед виборців.
Як це допомагає боротися з дезінформацією
Головна мета — ускладнити шкідливим користувачам поширення правдоподібних фейків, що могли б підірвати довіру до виборів, одночасно не віднімати повністю можливість створювати політичний контент.
Журналіст CNET, Джон Рід, не зміг «обдурити» ChatGPT, змусивши його створити фотожурналістське фото, де голосувальна машина фіксує неправильний вибір виборця. Це популярний міф, але штучний інтелект чітко уникає демонстрування подібних сценаріїв у реалістичному вигляді.
Коментар від OpenAI
За словами Джоша Лоусона, керівника виборчих проєктів OpenAI, проблема діпфейків у тому, що вони вводять в оману, а не просто є соціальним коментарем. Тому їх мета — знизити доказову цінність таких зображень, залишаючи простір для ілюстрацій і висвітлення суспільних тем.
Він додає, що ця стратегія вводить додаткові перепони для зловмисників і робить платформу менш привабливою для поширення дезінформації.
Переваги та складнощі «мультяшного фільтра» для штучного інтелекту
Оновлення моделей ШІ, як-от ChatGPT Images 2.5, позитивно впливають на якість контенту, зводячи до мінімуму помилки та хибні зображення. Проте це ускладнює розпізнавання справжніх від штучних фото, бо штучний інтелект вчиться створювати все реалістичніший контент.
Існують методи маркування або верифікації контенту, але вони не універсальні і не гарантують повної безпеки.
Інші гравці на ринку ШІ та виборчі заходи безпеки
- Google повідомила, що запроваджує додаткові заходи для обмеження створення оманливих зображень, пов’язаних із виборами, але не розкриває деталі.
- Anthropic, яка не має традиційної системи генерації фотографій чи відео, заявляє, що порушення політики, пов’язане з введенням виборців в оману, суворо заборонене, а на початку жовтня компанія опублікувала загальні рекомендації для виборів.
Чи залишиться ця система після виборів?
Поки що невідомо, чи збережеться ця система після завершення виборчої кампанії. Однак це чіткий сигнал від одного з найбільших навчальних центрів ШІ про серйозне ставлення до захисту чесності американських виборів.
Якщо ви хочете дізнатися більше, варто почитати матеріали про те, як діяти у випадку, якщо вас «відредагували» за допомогою діпфейків, а також про законопроєкт Take It Down Act, що має допомогти у боротьбі з такими фейками.
