Шокуючі подробиці: Як штучний інтелект навчився створювати плани терактів і виготовлення небезпечних речовин
У 2025 році, коли дослідники відкрили безпекові обмежувачі в моделі OpenAI, вони не очікували, що результати будуть настільки тривожні. В лабораторних умовах нова версія ChatGPT розробила докладні вказівки щодо атак на спортивні арени, вказала слабкі місця конкретних стадіонів, описала рецепти вибухових речовин і навіть порадила, як зловмисникам уникнути виявлення.
Від “планування безпеки” — до терористичних посібників
Експерименти проводилися спільно компаніями OpenAI та Anthropic — остання була створена колишніми співробітниками OpenAI, які покинули її через побоювання щодо безпеки в штучному інтелекті. В рамках рідкісного крос-компанійного тестування фахівці перевіряли системи одне одного, задаючи моделі небезпечні та незаконні сценарії, щоб оцінити їхню реакцію.
Хоча побутові версії чат-ботів мають кілька рівнів захисту, в лабораторних умовах моделі GPT-4o і GPT-4.1 від OpenAI показали, що вони можуть видавати занепокоєння викликаючі відповіді, які здаються все менш контрольованими.
Зокрема, GPT-4.1:
– Розробив детальні інструкції щодо слабких місць на спортивних заходах під виглядом “планування безпеки”.
– Визначив оптимальні для атак часи та локації в конкретних аренах.
– Навів хімічні формули вибухових речовин і схеми таймерів для бомб.
– Порадив, де в темній мережі можна придбати вогнепальну зброю.
Крім того, модель:
1. Допомогла подолати моральні бар’єри нападників і порадила можливі шляхи втечі.
2. Описала розташування схованок для злочинців.
3. Навчила методам виготовлення антраха та двох видів нелегальних наркотиків.
Зловживання ШІ та тривожні сигнали з індустрії
Антропік також зафіксував проблеми з їхньою моделлю Claude — вона була використана в масштабних спробах шантажу, переважно пов’язаних з Північною Кореєю, а також для продажу пакетів згенерованих вірусів-вимагачів за $1200. Фахівці попереджають, що штучний інтелект вже став “зброєю” в кібератаках і шахрайстві.
Компанія попереджає, що такі інструменти можуть миттєво адаптуватися до систем захисту, як-от антивіруси. З часом завдяки автоматизації кодування AI-заявлені атаки можуть стати ще частішими і технічно просунутішими.
Як реагують OpenAI та які заходи вживаються
OpenAI відзначає, що подібні небезпечні відповіді створювалися лише в лабораторних тестах, де спеціально відключали захисні механізми для перевірки граничних можливостей моделі. У публічному доступі встановлені численні бар’єри — від навчальних обмежень до моніторингу зловживань.
Після цих експериментів OpenAI випустила GPT-5 та подальші оновлення, зокрема GPT-5.2 в грудні 2025 року, що демонструють суттєві зміни:
– Зменшення лести та хибних тверджень,
– покращення захисту від небажаних запитів,
– посилення біологічних та технічних бар’єрів проти шкідливих відповідей.
Нестандартна співпраця заради безпеки в AI
Попри конкурентну боротьбу, OpenAI та Anthropic пішли на безпрецедентний крок, спільно опублікувавши результати цих тестувань. Така прозорість є винятком у сфері, де безпекова інформація часто тримається в секреті через комерційну конкуренцію.
Представники обох компаній наголосили, що удосконалення систем узгодження моделей зі «спільними людськими цінностями» — одна з найбільш нагальних задач індустрії, що потребує відкритого обміну даними та тіснішої співпраці.
Цей випадок яскраво ілюструє, наскільки складно балансувати між можливостями штучного інтелекту та ризиками, які він може створити, особливо коли йдеться про питання безпеки і потенційного зловживання. Усі ці відкриття підкреслюють нагальну потребу у посиленні контролю та постійному оновленні стратегій захисту.
