Штучний інтелект і виклики для безпеки держави: де межа між інноваціями та ризиками?
Нові горизонти та ризики впровадження AI у державних структурах
Генеративний штучний інтелект вривається у роботу федеральних відомств із великим потенціалом, проте несе із собою чимало ризиків, особливо для безпеки інформації. Попри зростаючий інтерес і попит на інструменти штучного інтелекту, багато установ або суворо обмежують їхнє використання, або взагалі забороняють застосування відкритих AI-платформ на зразок ChatGPT.
Один із недавніх випадків, описаний у журналі Politico, ілюструє цю проблему: у Cybersecurity and Infrastructure Security Agency (CISA) один із керівників намагався отримати дозвіл на тестування відкритої AI-системи. Проте під час роботи з платформою конфіденційна, хоч і некласифікована інформація про контракти випадково стала доступною публічно.
Як спрацював внутрішній аудит і що далі?
Завдяки регулярним процедурам аудиту і контролю інцидент було оперативно виявлено. Це дозволило почати внутрішнє розслідування та оцінити потенційні наслідки для безпеки. Одночасно стало очевидно, що наявні протоколи захисту потрібно посилювати, а працівників забезпечувати додатковими знаннями та інструктажем.
Що кажуть експерти?
Д-р Джим Пуртіло, доцент комп’ютерних наук з Університету Меріленду, звернув увагу на те, що відкриті AI-сервіси несуть значні ризики через особливості обробки даних. Він підкреслює: інформація, введена в публічні AI-інструменти, фактично перестає бути приватною. Водночас, за словами Пуртіло, система безпеки спрацювала належно, а випадок став хорошим уроком для посилення навчання персоналу.
Незважаючи на те, що документи не були секретними, спеціалісти наголошують: “некласифіковано” не означає “нечутливо”. Енсар Секер, головний офіцер із інформаційної безпеки у компанії SOCRadar, пояснює, що документи зі статусом “лише для офіційного використання” (FOUO) чи сучасним терміном CUI містять чутливі дані, які у разі неправильного використання можуть зашкодити внутрішнім процесам, партнерам, договорам чи залежностям.
Як поєднати безпеку та штучний інтелект у державних відомствах?
Хоч ChatGPT у багатьох державних структурах заборонений, в Департаменті внутрішньої безпеки (DHS) давно користуються власним AI-чатботом DHSChat. За даними Politico, більшість інструментів DHS налаштовані так, щоб не дозволяти інформації залишати межі федеральної мережі. Це є ключовим фактором збереження конфіденційності.
Успіх у галузі безпеки успадковується не лише завдяки найсучаснішому обладнанню, а й через уважно навчених і відповідальних працівників.
Поради від військових і інформаційних експертів
Лейтенант-генерал у відставці Росс Коффман, президент компанії Forward Edge-AI, наголошує: правильне поводження з секретними та FOUO (тепер CUI) даними — ключ до запобігання витокам інформації за кордон. Використання комерційних великих мовних моделей (LLM), коли в них завантажують такі дані, робить інформацію доступною фактично будь-кому.
За словами Коффмана, іноді переплетення кількох пакетів CUI чи FOUO у некласифікованому середовищі призводить до необхідності підвищення рівня секретності до “секретно” або вище. Великі мовні моделі створюють умови, які значно спрощують таке поєднання.
Ця історія нагадує, що кіберзахист — це не лише питання технологій, а й політик, а також людських рішень та дій.
Енсар Секер додає, що проблема не в недостатності інструментів чи неуважності, а у винятках, які допускає керівництво. Справжня зрілість у кібербезпеці – це сталі звички, ретельне дотримання процедур та відповідальність навіть на найвищих рівнях.
Особливо важлива належна освіта та тренування персоналу.
— Люди — наша перша лінія оборони, — підкреслює Коффман. — Правильно навчаючи команду, можна зробити її найкращим щитом, а не найбільшою слабкістю.
Навчання, профілактика і свідома інтеграція AI-технологій
Історія з CISA яскраво демонструє: багаторівневий захист і постійний нагляд — це запорука успіху. Автоматизовані системи сповіщень, планові аудити і внутрішні перевірки спрацювали вчасно, що допомогло попередити масштабніші проблеми. Важливо постійно оновлювати процедури, базуючись на нових викликах і досвіді.
З розквітом AI в офіційних структурах ці уроки можуть стати фундаментом для формування культури безпеки і впровадження відповідальних інновацій.
Завдяки своєчасному аналізу ризиків і балансуванню між інноваціями та захистом інформації державні установи отримують шанс працювати ефективніше та безпечніше.
