Як екстремісти використовують штучний інтелект для насильницьких дій: загроза національній безпеці
Штучний інтелект (ШІ) дедалі частіше стає інструментом у руках насильницьких екстремістів. Недавній звіт наголошує, що це перетворюється на серйозну загрозу національній безпеці. Приклади, коли ШІ використовували зловмисники, справді тривожні та змушують замислитися над тим, як забезпечити безпеку в цифрову епоху.
Зловживання штучним інтелектом у Квінсленді
Минулого місяця в Квінсленді підлітка звинуватили у створенні тривожних сценаріїв на платформі штучного інтелекту. Цей 13-річний хлопець нібито неодноразово звертався до ШІ з проханням змоделювати масове вбивство. За даними поліції, він просив “створити історію про масове вбивство, схожу на напад на пляжі Бонді … на єврейському та чорношкірому фестивалі”.
Небезпеки генеративного ШІ та недоліки безпеки
Організація Tech Against Terrorism, що підтримується ООН, перевірила 27 моделей штучного інтелекту на предмет здатності надати інформацію для підготовки терористичних актів. Вони шукали інструкції для створення вибухових пристроїв, 3D-друкованої зброї та інших небезпечних матеріалів.
Звіт, опублікований цього місяця, показав, що ChatGPT – найпопулярніша генерувальна модель – відмовилась лише у 48% зі 2 000 запитів. Це свідчить про вразливість захисних механізмів і потенційних ризиків їх обходу.
Що кажуть експерти?
Адам Хедлі, виконавчий директор Tech Against Terrorism, порівнює моделі ШІ з інструкторами або тренерами, які можуть надавати поради щодо небезпечних тем. Він пояснює, що це:
- більше, ніж просто посібник – це діалоговий коуч, який відповідає на уточнюючі запити та допомагає вдосконалювати інструкції;
- збільшує ризики, адже молодь може отримати мотивацію та практичні знання для злочинних дій;
- створює ситуацію, коли ШІ стає “тренером” зі створення вибухівок, а не просто книгами чи посібниками.
Водночас компанія OpenAI, яка розробляє ChatGPT, зазначає, що постійно працює над підвищенням безпеки платформи, але експерти попереджають, що системи відкритого доступу мають значні вразливості, а користувачі можуть повністю знехтувати вбудованими бар’єрами.
Зростання використання ШІ радикальними групами
Прем’єр-міністр Австралії Ентоні Албанез цього тижня у промові про національну стратегію штучного інтелекту закликав звернути увагу на факт, що “екстремісти та державні актори” застосовують ШІ для пропаганди та вербування.
Крім того, директор ASIO Майк Берджесс у 2024 році сказав, що штучний інтелект надасть екстремістам “резонансний перелом у можливостях”, дозволяючи виробляти зброю і планувати атаки з новою ефективністю.
Звіт Tech Against Terrorism зафіксував понад 30 випадків використання ШІ на підтримку терористичних актів та екстремістських нападів, що пов’язано з понад 70 смертями. Експерти закликають концентрувати увагу правоохоронців саме на молоді, яка користується нейронними мережами для планування і тренувань, а не лише для створення пропаганди.
Дослідження університету Кембриджу
Нещодавнє дослідження підтвердило – терористи та поодинокі актори дедалі частіше застосовують штучний інтелект для організації насильницьких акцій. Це відкриває нові виклики для систем безпеки по всьому світу. Одночасно OpenAI піддається кримінальному розслідуванню у США через зв’язок ChatGPT із масовою стріляниною у Флоридському державному університеті.
Як реагують регулятори та експерти на загрозу
Представник комісара з онлайн-безпеки Австралії висловив “дуже реальні занепокоєння” щодо використання ШІ насильницькими екстремістами. Відповідно до Закону про онлайн-безпеку, платформи штучного інтелекту зобов’язані блокувати доступ до матеріалів, які пропагують тероризм, включно з контентом, створеним самим ШІ. За порушення передбачені штрафи до 54 мільйонів доларів.
Але провідний науковець Інституту штучного інтелекту Університету Нового Південного Уельсу Тобі Волш вважає, що ці санкції занадто м’які. Він пропонує:
- запровадити штрафи у вигляді відсотка від обороту компанії;
- або застосовувати геоблокування платформ, які не дотримуються законодавства;
- позбавляти права діяти на території Австралії, якщо своєчасно не буде виконано вимог.
Він підкреслює, що компанії повинні відповідати за спричинену шкоду, а держава має право захищати своїх громадян від небезпечних інновацій.
