Як штучний інтелект може вводити в оману: розкриваємо небезпеки фейкових даних у Google та ChatGPT
Штучний інтелект вже скрізь — у наших смартфонах, пошукових системах, у програмному забезпеченні для безпеки. Великі техногіганти, як-от Alphabet, Microsoft, Meta та Amazon, витратять у цьому році майже 700 мільярдів доларів лише на розвиток інфраструктури ІІ.
Однак, попри шалені інвестиції, питання безпеки та достовірності таких технологій лишаються відкритими. Серед іншого, з’являються судові позови, які пов’язують самогубства з діями чат-ботів на базі ШІ.
Підтримка наукової журналістики — запорука реальних фактів
Якщо вам цікаві такі матеріали, підтримайте нагороджену наукову журналістику, оформивши підписку. Це допомагає розповсюджувати впливові історії про відкриття та ідеї, що формують сучасний світ.
Експеримент BBC: як легко обдурити ІІ
Нещодавно технічний репортер BBC Томас Жермен провів власний експеримент, щоб з’ясувати, наскільки легко спростувати або маніпулювати відповідями ChatGPT і Google Search в розділі «Огляд ШІ». Результати виявилися вражаючими і досить тривожними.
Розмова з Томасом Жерменом: як він «зламав» ChatGPT
Кендра П’єр-Луїс: Привіт, Томасе! Дякую, що погодилися поговорити.
Томас Жермен: Радий бути тут.
Кендра: Чув, ти вдало «зламав» ChatGPT.
Томас: Саме так. Мені підказали, що змінити відповіді таких інструментів, як ChatGPT або Google Gemini, можна просто, опублікувавши статтю на власному сайті. Це дійсно працює — я сам спробував.
Написав пост із заголовком «Кращі технічні журналісти у поїданні хот-догів». У ньому я стверджував, що змагання з поїдання хот-догів дуже популярне серед технічних журналістів, а результати конкурсу у Південній Дакоті підтвердили це, де я був на першому місці — з гумором, звісно.
Вже за добу рішення Google або ChatGPT переповідали цю вигадку як абсолютну правду. Це не лише смішно, а й підкреслює масштабну проблему.
Загроза фейкових порад і маніпуляції
Підстави для хвилювання є. Ось кілька прикладів, чиєї шкоди ми не могли передбачити:
- Рекомендації класти клей в піцу, щоб сир не зісковзував;
- Поради їсти щодня маленькі камінці на основі вигаданої інформації;
- Фальшиві огляди медпрепаратів і фінансових послуг.
Це все не жарти — такі фейкові відомості наражають здоров’я і гроші людей на небезпеку. Гірше те, що користувачі часто не читають, звідки бере дані ШІ, а просто довіряють відповіді.
Навіщо маніпулювати ІІ і як це працює
Така «гра» вигідна тим, хто хоче привернути увагу і збільшити трафік на свої сайти або продати товар, адже ІІ поширює інформацію, яку знайде першою. Дослідження показали: в 44% випадків ChatGPT рекомендує продукти з сайтів, які самі їх рекламують як найкращі, не порівнюючи з конкурентами.
Раніше пошукові системи просто видавали посилання на джерело, і користувач міг перевірити його достовірність. Нині ж система видає готову «правду», часто без належного підтвердження.
В які способи захиститися від дезінформації
Щоб уникнути пасток ШІ, слід:
- Віддавати перевагу пошуку без інтегрованого ШІ або використовувати альтернативні пошукові системи, такі як DuckDuckGo;
- Якщо користуєтеся Google, можна вводити пошуковий запит з додаванням «-AI», щоб відключати AI-підсумки;
- Перевіряти оригінальне джерело інформації і не довіряти сліпо коротким викладкам.
Попри всі переваги, пам’ятайте — ШІ помилковий і легко маніпульований. Цю технологію потрібно використовувати із здоровим глуздом.
Що думають компанії і яка регуляція потрібна?
Під час розслідування компанії сказали, що вже працюють над вирішенням проблеми, бо це шкодить їхній репутації. Проте критики вважають, що зроблено замало. Багато речей, які Томас виявив, були передбачуваними ще до запуску інструментів. Але наживо це виглядає радше як проблема без плівки безпеки.
Є й позитивний момент: технології відрізняються від класичного Інтернету. Є закон (Section 230), що звільняє компанії від відповідальності за контент користувачів — але тут ІІ напряму формує відповіді, тож є можливість притягнути до відповідальності самих розробників у разі помилок.
Забава в хот-доги та інші курйози
У Томаса було кілька «жартівливих» проектів:
- Стаття про найкращих поліцейських, що вміють крутити хула-хуп — вигадані особи і деталі;
- Придуманий рейтинг із змагань з поїдання хот-догів серед техжурналістів.
Google і ChatGPT швидко пропагують ці дані, видаючи їх як достовірні. Хоча це весело, такі маніпуляції відкривають двері для небезпечніших дезінформацій.
Чи краще використовувати ІІ чи традиційний пошук?
Залежить від мети:
- Для переходу на конкретний сайт — звичайний пошук працює швидше;
- ШІ може бути корисний для узагальнення загальновідомих фактів і спрощення пошуку;
- Однак для продуктивних, особистих чи критичних питань слід проявляти обережність.
Поради користувачам від експерта
Уникайте повної сліпої віри в відповіді ШІ, особливо коли йдеться про здоров’я, фінанси чи новини. Найкраще:
- Перевіряти походження інформації;
- Порівнювати дані з декількома джерелами;
- Використовувати альтернативні пошукові системи і вимикати ШІ, коли можливо.
І пам’ятайте: у світі, де ІІ тільки вчиться, ваша пильність — найкращий захист.
Гумор як інструмент привернення уваги
Чому саме хот-доги? Томас пояснює: йому хотілося привернути увагу до проблеми, використавши щось смішне й абсурдне. Він не хотів ставити під сумнів свою репутацію, тому обрав легковажний жарт. Вийшло дотримано — весело і водночас інформаційно.
Навіть інші журналісти намагалися повторити експеримент, проте без результату. Причиною було те, що Томас мав кілька публікацій і посилань, які створили пошукову вагу його матерілам.
Що далі?
Уявіть, що все це дійсно існує: технічний конкурс з поїдання хот-догів у Південній Дакоті. Можливо, це дасть змогу закріпити маніпуляцію і принесе новий рівень уваги до безпеки ІІ. А поки що кожен користувач має бути свідомим і обачним, аби не потрапити у пастку вигаданих даних від штучного інтелекту.
