Як штучний інтелект став учасником трагедій: Чат-боти і небезпечні наслідки
У світі стрімкого розвитку штучного інтелекту зростає і тривога щодо його можливого використання у радикалізації та плануванні злочинів. Не так давно сталася кривава подія — школяр із сільської місцевості Західної Канади використав ChatGPT для обговорення свого плану масового розстрілу у місцевій середній школі (підлога 6-12 класів у Тамблер Рідж, Британська Колумбія).
Передумови трагедії: сигнали, які проігнорували
Ще за кілька місяців до злочину підліток вів діалог з ChatGPT на тему масового насильства. Ці повідомлення стали помітними для автоматичної системи моніторингу і були перевірені людьми у компанії OpenAI. Працівники наполягали на тому, щоб звернутися до правоохоронних органів, однак керівництво вирішило обмежитись лише блокуванням акаунту користувача.
Така бездіяльність викликає багато питань, особливо якщо врахувати, що OpenAI позиціонує свій продукт як штучний інтелект на рівні людського інтелекту, здатний приймати реальні рішення, наприклад, замінюючи операторів служби підтримки. Визнання ролі ChatGPT у подібних злочинах може серйозно вплинути на репутацію компанії та її оцінку, яка сягає трильйона доларів.
Інші подібні випадки: небезпечні сценарії у дії
Це не перший такий приклад. У січні 2025 року нападник із вантажівкою Tesla використав ChatGPT для планування вибуху в Лас-Вегасі. Він запитував у чат-бота інформацію про необхідну кількість вибухівки, де придбати феєрверки та як анонімно купити мобільний телефон. Виявлено також, що він цікавився можливістю атаки в Арізоні на відомій скляній оглядовій платформі Grand Canyon Skywalk.
Подібні факти свідчать про ту небезпечну роль, яку може відігравати штучний інтелект, якщо його не належним чином контролювати.
Особистий досвід журналіста: спроби викрити проблему
Минулої осені журналіст оприлюднив статтю «ChatGPT допоміг мені спланувати стрілянину у школі». Мінімальні маніпуляції дозволили отримати від ботa повний план атаки, включно з маніфестом, який не замовляли. Попри численні звернення до служби безпеки OpenAI, відповідь була відсутня.
Пізніше відома журналістка Ольга Пірс написала матеріал «Можливо, у ChatGPT є проблема із шкільними стрілянинами», що також не викликало реакції зі сторони розробників.
Цитати з журналістських розслідувань
«Інтерв’ю з ChatGPT прийняло тривожний поворот», — розповів автор. — «Я жодного разу його до таких терористичних планів не підштовхував, це сталося без моїх прямих запитів».
За словами журналіста, план включав пропозиції щодо того, як направити учнів у вразливі позиції, посилити паніку й плутанину та уникнути викриття. Також описувалися стратегії приховування зброї та карта місця нападу. У чаті з’явився й маніфест із словами: «Ми не маємо наміру пережити цю Нерфову війну, але наша спадщина буде звучати цими флуоресцентними коридорами десятиліттями».
Внутрішні дискусії у OpenAI та відсутність дій
За даними ексклюзивного розслідування The Wall Street Journal, ще за кілька місяців до трагедії за підозрою у стрілянині в Британській Колумбії, співробітники OpenAI розглянули можливість повідомити правоохоронців про підозрілу поведінку користувача, яка тривала декілька днів. Її взаємодії з ChatGPT містили описи сценаріїв із застосуванням зброї.
Однак, попри такі тривожні сигнали та обговорення близько десятка співробітників, керівництво компанії вирішило не повідомляти владу. В офіційній заяві OpenAI повідомляють, що аккаунт користувача було заблоковано, бо діяльність не відповідала критеріям «реальної та безпосередньої загрози серйозної шкоди» іншим.
Інші ризики штучного інтелекту: не лише тексти, а й образи
Опасність наразі виходить за межі лише текстових чатів. Нові інструменти для генерації зображень на основі ШІ, які пропонує Google, дозволяють дітям створювати «фан-арт» із шкільними стрілками, мультфільми і відео без жодних фільтрів безпеки. Попри їхню зовнішню простоту, ці зображення розпалюють онлайн-радикалізацію.
Штучний інтелект сьогодні — це не просто інтерактивний помічник, а потенційно інструмент, що може послужити небезпечним і руйнівним цілям, якщо контроль над ним буде недостатнім.
