Поки у світових столицях тривають дискусії щодо потенційної загрози повного знищення людства штучним інтелектом у майбутньому, реальність вже принесла нові виклики. Останній звіт лабораторії Anthropic наочно демонструє, що сучасні моделі штучного інтелекту сьогодні активно застосовуються у військових операціях, спостереженні за цивільними особами та проведенні небезпечних наукових експериментів.
Важливо відзначити, що тепер невелика група осіб здатна організовувати операції, які раніше вимагали значних ресурсів цілих спецслужб, великих команд інженерів або хакерських угруповань. Таку інформацію надали в Axios.
Військове використання штучного інтелекту
Упродовж останніх восьми місяців лабораторія Anthropic відслідковувала та блокувала спроби незаконного застосування моделі Claude. Серед зафіксованих випадків:
- прямий контакт із військовими структурами та збройними формуваннями;
- впровадження штучного інтелекту в операції, пов’язані з Іраном. Зокрема, Claude використовувався для розробки інструкцій із цілевказівки, а також допомагав відстежувати позиції кораблів, американських військових, аналізувати супутникові знімки і веб-ресурси, що транзитують;
- у північному Ємені розробники озброєння застосовували Claude Code для управління ракетами та снарядами. Декілька екземплярів програми працювали над створенням коду, виконували дослідження та взаємно перевіряли результати. Після невдалих тестів керованих ракет розробники зверталися до ШІ у пошуку помилок.
Цифровий тоталітаризм
Технології Anthropic також були спробовані у масштабних репресіях і вербуванні населення. Зокрема:
- у рамках операції, пов’язаної з Китаєм, Claude аналізував понад 100 груп у WhatsApp та десятки Telegram-каналів, визначаючи уйгурів, які перебували в Сирії, для подальшого тиску або вербування;
- модель допомагала оператору, що не володів арабською мовою, спілкуватися сирійським діалектом, використовуючи сімейні та фінансові слабкі місця жертв;
- у Малі консультант застосовував Claude як ключовий інструмент для створення загальнонаціональної системи спостереження, яка дозволяла збирати інформацію про дзвінки та повідомлення, ідентифікувати користувачів за голосом на різних SIM-картах, відстежувати користувачів VPN і формувати досьє без судового рішення.
Обхід запобіжних заходів у роботі ШІ
Окремою загрозою є пошук методів обходу безпекових обмежень штучного інтелекту. Зокрема:
- у межах одного з державних грантів дослідники намагалися модифікувати вірус чикунгунья для підвищення його заразності й здатності долати імунний захист;
- коли Claude блокував найризиковіші запити, платформа автоматично перенаправляла їх на конкурентну модель, яка мала менш жорсткі механізми захисту. Це підкреслює обмеження ізольованих безпекових заходів, застосовуваних окремими компаніями.
Нова роль для розробників
Створювачі передових моделей штучного інтелекту опинилися у новій, раніше незвичній, ролі. Їхні інструменти одночасно стають як засобами для зловмисників, так і ресурсом для виявлення шкідливої діяльності на ранніх етапах, наприклад, під час виявлення креслень автономних безпілотних літальних апаратів.
Звіт Anthropic та зареєстровані випадки вже викликали значний резонанс у Вашингтоні, спонукаючи законодавців розглядати безпеку штучного інтелекту не як абстрактну концепцію, а як першочергову проблему національної й міжнародної безпеки.
Нагадаємо, що штучний інтелект Claude міг бути серед інструментів російських хакерів: за даними, ШІ сприяв супротивникові здійснювати кібератаки і шпигувати за представниками уряду, військовими та дипломатичними структурами України.
Також раніше повідомлялося, що китайські військові активізували дослідження щодо використання людиноподібних роботів на полі бою. У Народно-визвольній армії КНР вже проходять випробування таких систем, вивчають їх сприйняття, керування та навчання, а також можливості координації з військовослужбовцями.
Щоб отримувати лише достовірну інформацію, підписуйтеся на офіційні канали OBOZ.UA в Telegram та Viber. Не довіряйте фейковим новинам!
