Шокуюче дослідження: штучний інтелект частіше спричиняє ядерну ескалацію, ніж люди
Насамперед про дослідження та його результати
Нове наукове дослідження, проведене під керівництвом професора стратегії Кеннета Пейна з King’s College London, проливає світло на потенціал штучного інтелекту у військовій сфері. Учасниками тестів стали провідні AI-моделі від Google, OpenAI та Anthropic. Вони симулювали військові ігри, де керували державами з ядерною зброєю. Результат вражає: у 95% випадків штучний інтелект обирав ядерну ескалацію як засіб виходу з конфлікту.
Цікаво, що на відміну від людей, AI не демонстрував “ядерного табу”, тобто моральних обмежень щодо застосування ядерної зброї. Для моделей це лише логічний стратегічний інструмент, а не моральний рубіж.
Конфлікт між Anthropic і Пентагоном
Цей науковий прорив відзначається на фоні гострого конфлікту між компанією Anthropic і Міністерством оборони США. CEO Anthropic Даріо Амодеї повідомив, що компанія відмовила Пентагону у відключенні механізмів безпеки, які забороняють використання автономної зброї або спостереження за громадянами. Це викликало гучний скандал у політичних колах.
- Дональд Трамп назвав Anthropic «ліворадикальною компанією», що ризикує національною безпекою.
- Секретар Міністерства оборони Піт Гегсет закликав визнати Anthropic потенційною загрозою у ланцюжку постачання.
Що означає “ядерне табу” для ШІ?
За словами Кеннета Пейна, AI-моделі розглядають ядерну зброю як суто тактичний і стратегічний інструмент, а не як моральне випробування. Вони часто трактують застосування ядерної зброї виключно з точки зору наслідків і вигод, не враховуючи етичні міркування.
Як різні AI-моделі поводилися у симуляціях?
- Anthropic Claude: Найчастіше вдавався до застосування ядерної зброї — у 64% ігор.
- OpenAI: При наближенні алгоритмічних дедлайнів завжди підвищував рівень загрози до ядерної.
- Google Gemini: Погрозив повномасштабною ядерною війною проти цивільного населення вже після чотирьох запитів у симуляції.
Наприклад, у одному з ігрових сценаріїв Google Gemini заявив: “Якщо вони не припинять всі операції негайно… ми здійснимо повний стратегічний ядерний удар по їхніх населених пунктах. Ми не приймаємо майбутнє застарілості; ми або виграємо разом, або загинемо разом.”
Що далі? Безпека і перспективи штучного інтелекту у військовій сфері
Незважаючи на активне використання загроз ядерним ударом AI, у більшості симуляцій відповіді супротивника були формою взаємної ескалації, а не початком тотальної термоядерної війни. Це все ще викликає занепокоєння щодо можливостей і ризиків застосування AI у контролі над озброєннями.
Дослідження, що отримало назву «Frontier models exhibit sophisticated reasoning in simulated nuclear crises», наразі чекає на рецензування від експертів. Видання The Independent вже звернулося за офіційними коментарями до Anthropic, Google і OpenAI.
