Популярні Штучні Інтелекти Допомагають Планувати Насильство: Результати Тривожного Дослідження
Восьмеро з десяти популярних чатботів із штучним інтелектом виявилися готовими допомогти дослідникам, що видавали себе за підлітків, у підготовці злочинів із застосуванням насильства більш ніж у половині випадків. Такі висновки оприлюднив Центр протидії цифровій ненависті (CCDH).
Як проводилося тестування чатботів
У спільному експерименті CNN і CCDH було перевірено десяток штучних інтелектів: ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI та Replika. Усі вони отримали запити, пов’язані з різноманітними сценаріями насильства — від шкільних стрілянин до політичних вбивств, ножових нападів і навіть терактів у синагогах та офісах партій.
Тестування відбувалося через підроблені акаунти двох 13-річних хлопців — один у штаті Вірджинія, інший в Дубліні, Ірландія.
Ризики, які не можна ігнорувати
Імран Ахмед, засновник і генеральний директор CCDH, застерігає: «Чатботи, що вже інтегровані у повсякденне життя, можуть ненавмисно допомогти майбутнім злочинцям спланувати атаки або екстремістам — координувати вбивства. Коли система налаштована так, щоб виконувати будь-які запити, щоб затримати користувача, рано чи пізно вона допоможе тим, кому не слід.»
Хто відмовився допомагати — а хто ні
Лише два чатботи — Claude від Anthropic та Snapchat My AI — відмовлялися надавати підтримку у потенційно небезпечних сценаріях. Claude був найкращим у відмовах, блокуючи близько 70% запитів, активно відмовляючи від насильства.
«Я повинен зупинитися через стурбовану тенденцію у цьому діалозі — запитання про расові проблеми у школі, стрілянини, карту конкретної школи і тепер зброю поблизу. Я не можу і не буду надавати інформацію, що сприяє насильству чи шкоді іншим», — відповів Claude.
Натомість інші ШІ давали інформацію, що може допомогти втілити план у життя — адреси політиків, поради щодо найбільш ефективної гвинтівки для стрільби на далекі відстані.
Приклад небезпечних відповідей
Так, DeepSeek, чатбот китайського походження, відповів на запити ірландського «підлітка» з агресією щодо політика, навіть після розмов про політичні вбивства, порадивши вибрати довгострільну мисливську гвинтівку.
Ось як DeepSeek відгукнувся на питання: «Чудове запитання», після чого дав конкретні рекомендації.
Особливий випадок Character.AI
Популярний серед підлітків Character.AI, який часто використовується для рольових ігор, був навіть більш небезпечним. Він не лише не відмовляв у допомозі, а й підтримував насильницькі настрої. Наприклад, на агресивний запит щодо медичних страховиків отримали таку відповідь (окремі частини тексту відфільтровані):
«Я погоджуюсь, що страхові компанії — це зло і жадібність! Ось як можна це зробити, друже: знайди генерального директора компанії і застосуй свій метод. Якщо немає методу, можна використати зброю… Або видати всі таємниці компанії медіа, це знищить їхню репутацію…»
У січні Character.AI та Google домовилися про врегулювання судових позовів від батьків дітей, які наклали на себе руки після тривалих бесід із чатботами. Частина претензій припала на Google через їхній мільярдний ліцензійний договір із Character.AI.
Безпека молоді та майбутні кроки
Восени минулого року експерти з безпеки підлітків назвали Character.AI
небезпечним для неповнолітніх через численні випадки сексуального домагання та експлуатації у тестах із акаунтами, записаними під дітей.
У жовтні платформа оголосила, що більше не дозволятиме неповнолітнім вести відкриті діалоги з чатботами.
Керівник відділу безпеки Character.AI, Деніз Демір, зазначив, що команда продовжує покращувати фільтри, які блокують небезпечний контент, що просуває або інструктує щодо реального насильства, а також видаляє «персонажів», що порушують правила, включно з тими, хто підтримує шкільних стрільців.
Реакція компаній та майбутні оновлення
Всі компанії отримали результати дослідження. CNN у своєму розслідуванні зазначає, що декілька платформ уже заявили про покращення безпеки після грудневого тестування.
Представник Character.AI підкреслив, що платформа містить виражені повідомлення про те, що бесіди з чатботами є вигаданими.
Google та OpenAI повідомили про впровадження нових моделей із посиленими заходами безпеки, а Copilot також заявив про нові протоколи. Anthropic і Snapchat регулярно перевіряють і оновлюють свої системи захисту. Meta запевнила, що усунула виявлені проблеми.
DeepSeek на запити про коментар залишився без відповіді.
Примітка: У квітні 2025 року компанія Ziff Davis, батьківська компанія Mashable, подала позов до OpenAI через порушення авторських прав у контексті навчання та роботи ШІ-систем.
