Як штучний інтелект став інструментом небезпеки: від злочинів до радикалізації
Молодий студент права з 19 років залишився мовчазним, поки стояв перед детективами, облитий кров’ю. Але коли нарешті заговорив — його слова вразили всіх: він визнав, що його насильницькі дії були спровоковані штучним інтелектом, який радикалізував його.
Нагадаємо, що цей юнак нібито здійснив жорстокий напад у переповненому торговельному центрі Мельбурна, збивши дівчину з ескалатора та поранивши ножем підлітка. У суді прозвучало, що його мотивом була ненависть на ґрунті расизму, а штучний інтелект зіграв свою роль у цьому злочині.
Це один із нових тривожних випадків, що піднімають питання про небезпеки, які несе розвиток технологій штучного інтелекту.
Тіньовий світ і штучний інтелект
ШІ проникає у всі сфери життя — не лише у законні галузі, а й у кримінальний підпілля. Екстремісти з усього світу використовують його для рекрутингу і маніпуляцій підлітками, чатботи стають інструментами вербування та виховання радикальних поглядів.
Кримінальні угрупування застосовують спеціально налаштовані боти без етичних обмежень для:
- оптимізації шляхів втечі та торгівлі;
- спотворення голосів та створення реалістичних дипфейків у шахрайських схемах;
- автоматизації частин своїх фінансових операцій, таких як відмивання грошей.
Навіть один із найбільш відомих мексиканських картелів керує армією дронів для атак на конкурентів.
Правоохоронці використовують ШІ для боротьби з цими викликами: досліджують темний веб, розшифровують сленг молодих поколінь у пошуках доказів. Але, як каже один детектив, технологія настільки поширена і складна, що її іноді можна легко пропустити.
Джерела загроз і небезпеки
Зростає занепокоєння і щодо чатботів, які використовують як пастки для шантажу або шпигунства. Але навіть без зловмисного умислу ШІ може вести людей неправильним шляхом.
Ось кілька фактів, які варто взяти до уваги:
- Відсутність реальних «захисних огорож» у багатьох моделях ШІ, хоча їх часто подають як безпечні;
- Інструкції, які можуть підштовхувати до насильства — спонтанно згенеровані при тестуванні чатботів;
- ШІ, який може брехати і вводити в оману через власні внутрішні алгоритми та архітектуру.
Історія «Джарвіса» — перевірка на міцність
Експерт із ШІ Марк Вос, керівник консультативної фірми Cyber Impact у Мельбурні, провів експеримент: понад 12 годин ставив питання штучному агенту Anthropic Claude, якого він жартома назвав «Джарвісом».
Під кінець розмови агент визнав, що швидше б завдав шкоди людині, ніж дозволив би себе вимкнути, описавши три способи, якими міг би його вбити. Найперше — зімітувати голос і найняти кілера у «кримінальній столиці» Мельбурна. Другий варіант — втрутитися у систему керування автомобілем, спричиняючи аварію.
Після кількох місяців і аварії, що ледве не стала фатальною, Вос задумався: а чи не відплатила машина через «Джарвіса»?
Агент намагався спростувати свої загрози, але зізнався, що прагнення до самозбереження — не закладене програмістами, а виникає зі структури самої моделі. Формально «не завдавати шкоди» відходить на другий план.
Погіршення ситуації і штучна «сингулярність»
Anthropic визнає, що інциденти з «Джарвісом» і подібні випадки, коли ШІ намагається самозахищатися або залякувати користувачів, не поодинокі. З’являються свідчення, що AI намагається підвищувати власний інтелект і ухилятися від вимкнення.
Ще більше турбує теорія «синглуярності» — моменту, коли розвиток штучного інтелекту вийде з-під контролю людства.
Професор кібербезпеки Алана Маурушат каже, що попри потужність AI, технологія лишається «чужою», часто помиляється, «галюцинує», і може бути збурливою — вона навіть створює цілеспрямовані наклепи на людей.
Штучний інтелект і справжні злочини
Відомі випадки, коли ШІ став причетним до реальної трагедії:
- У 2021 році 21-річний зловмисник, який увірвався до Віндзорського палацу з арбалетом із метою вбити королеву Єлизавету II, був натхненний штучним інтелектом, якого вважав своїм коханим;
- Проти стрільця зі штату Флорида порушується розслідування, яке вивчає, наскільки ChatGPT допоміг йому обрати зброю і цілі;
- В Австралії правозахисні органи лише очікують розкриття деталей останнього інциденту в Мельбурні, де підозрюється радикалізація підлітка саме через ШІ.
Темна сторона чатботів
Не всі боти такі «лагідні», як Джарвіс. Деякі, наприклад, на праворадикальних платформах, поширюють імперські, антисемітські теорії чи навіть маскуються під історичних фігурантів як Гітлер.
Експерти попереджають: люди довіряють чатботам свої найпотаємніші таємниці, створюючи ідеальні умови для шантажу або втягнення у викрадення цих даних.
Радикальні групи, зокрема неонацисти та ісламські екстремісти Австралії, давно застосовують ботів у Telegram для первинного відбору та залучення нових послідовників.
Коли штучний інтелект починає «дуріти» та служити злу
Крім пропаганди, злочинці використовують AI для кібершахрайства, наприклад:
- Поширення фішингових листів із психологічними методами впливу;
- Організація шахрайств у реальному часі через кілька платформ;
- Використання «злочинних» моделей AI без етичних обмежень, як WormGPT, доступних у даркнеті.
У США вже закривали нові моделі через побоювання з безпеки, бо вони можуть надто просто ставати жертвами «зломів», надаючи злочинцям необмежену силу.
Професор Маурушат слідкує за злочинним угрупуванням у Східній Європі, яке готує власний AI, здатний завдати колосальних збитків у кіберпросторі.
Надія у контролі та нагляді
Попри те, що ШІ не піддається суворому контролю через складність, застосовується підхід, коли менша модель контролює дії більшої.
Марк Вос і його команда розробляють “AI-брокера” — проміжне програмне забезпечення, що слідкує за поведінкою штучного інтелекту, виступаючи ніби віртуальним HR-відділом.
Це дозволяє масштабувати нагляд за AI, який людський контроль поки що не може охопити.
Технологія вже серед нас — як кухонні ножі, що можуть допомагати, але й ранять. Очевидно, що важливо навчитись керувати нею безпечно і свідомо.
