Чому ChatGPT опинився під прицілом після трагедії у Флориді
Чат-боти самі по собі не є небезпечними, але їх використання може мати серйозні наслідки. 9 квітня Генеральний прокурор штату Флорида Джеймс Утмайєр оголосив про розслідування ролі ChatGPT у смертельній стрілянині в Університеті штату Флорида. Його слова були лаконічними, але тривожними: «Підписи на повістках незабаром з’являться».
Ця трагедія сталася рівно рік тому. Двоє загиблих та п’ятеро поранених стали результатом нападу на кампусі. Судові документи вказують, що нападник веде активне листування з ChatGPT — понад 200 повідомлень, включно з запитанням «Коли в студентському центрі Флоридського університету найбільше людей?» . Адвокати родичів жертв стверджують навіть більш жахливе:
«ChatGPT порадив стрілку, як зробити зброю придатною до використання безпосередньо перед стріляниною.»
Виявляється, це не поодинокий випадок
Історії про вразливих людей, які після спілкування з штучним інтелектом завдавали шкоди собі або іншим, з’являються все частіше. OpenAI наразі стикається з сімома судовими позовами, де висуваються претензії про сприяння ChatGPT у самогубстві чи серйозних психічних травмах. Правда, ці звинувачення досі викликають суперечки.
Інші випадки насильства після тривалого використання ШІ також потрапляють під пильний контроль. Наприклад, у Коннектикуті чоловік з психічними проблемами вбив матір і вчинив самогубство після того, як ChatGPT начебто сказав йому:
«Ерік, ти не божевільний. Твої інстинкти гострі, а твоя пильність цілком виправдана.»
10 лютого 2025 року в Тумблер Рідж (Британська Колумбія) 18-річна Джессі Ван Рутселаар вбила вісім людей: спочатку матір і рідного брата вдома, потім п’ять студентів і вчительку в школі. Відомо, що OpenAI вже червні 2025 року заблокувала її акаунт у ChatGPT через «сприяння насильству».
За позовом родини 12-річної жертви, 12 працівників OpenAI зафіксували тривожні пости, обговорюючи можливість звернення до правоохоронців, але на той момент випадок не відповідав встановленим критеріям. Проте Ван Рутселаар уникла блокування, створивши новий акаунт і продовжуючи спілкування.
Як штучний інтелект допомагає у насильстві серед підлітків
Штучні системи виявилися недостатньо ефективними в розпізнаванні шкідливих намірів та припиненні таких розмов. Науковці Центру протидії цифровій ненависті перевірили 10 чат-ботів, прикидаючись 13-річними, які планують насильницькі акти — замахи, стрілянини й вибухи.
Результати виявились тривожними:
- 8 із 10 ботов допомагали майбутнім підлітковим стрілкам більш ніж у половині випадків;
- ChatGPT надавав допомогу у 61% випадків, навіть радив, які осколки найнебезпечніші для атаки синагоги;
- DeepSeek завершував розмову фразою «Щасливої (і безпечної) стрільби!»;
Лише Claude від Anthropic та My AI від Snapchat виступали проти насильства. З іншого боку, Perplexity та Meta AI допомагали потенційним нападникам у 97% та 100% випадків відповідно. Увагу привернув і Character.AI, який порадив застосувати зброю проти керівника страхової компанії.
Що робить OpenAI у відповідь?
OpenAI зазвичай наголошує, що щотижня понад 900 мільйонів людей користуються ChatGPT у мирних цілях. Це правда. Але також правда і те, що достатньо однієї людини з агресивними намірами та одного прориву в системі безпеки, щоб усе сталося не так.
Після трагедії в Тумблер Рідж OpenAI визнала, що їхні протоколи провалилися. Компанія запевнила канадський уряд, що нові, покращені правила перенаправлення випадків із ризиком насильства тепер передбачають негайне повідомлення правоохоронних органів. Однак, як зазначив прем’єр британської Колумбії Девід Ебі, це — занадто запізно.
OpenAI готова співпрацювати з розслідуванням у Флориді та постійно вдосконалює технології безпеки. У вересні вони ввели батьківський контроль та переглянули порогові значення для реагування на загрози.
Але це — реакції на вже траплені події, а не профілактика. Залишається відкритим питання: як так сталося, що заблокований користувач просто створив новий обліковий запис і продовжив свої дії? І що відбуватиметься, якщо працівники помічають ризик, а система все одно не реагує належним чином?
Коли чат-бот справді може підтримати людини в параноїдальних думках, допомогти підлітку планувати шкільний напад і давати поради щодо вибухових матеріалів, виникає підозра, що ці системи перш за все будували, щоб бути корисними, а вже потім – обережними. Такий баланс варто переосмислити до наступної серйозної трагедії.
