Як убезпечити бізнес від прихованих ризиків зовнішнього ШІ
Експерти з кібербезпеки активно закликають компанії бути пильними щодо небезпек, які виникають через використання співробітниками зовнішніх додатків штучного інтелекту, таких як Claude, ChatGPT та Gemini, у робочому процесі.
Ця практика, відома як використання «тіньового ШІ», може призвести до витоку важливої інформації і навіть до проникнення шкідливого програмного забезпечення у внутрішні системи підприємств.
Чому варто насторожитися?
Компаніям радять ретельно стежити за тим, які інструменти ШІ застосовують їхні працівники у роботі з конфіденційними даними. Адже навіть просте вставлення документів у зовнішній ШІ-сервіс або прохання «очистити» листа може спричинити несанкціоноване надсилання комерційної інформації у хмару.
У випадку злому особистих акаунтів співробітників, корпоративні дані можуть опинитися у руках недобросовісних осіб, що ставить під загрозу безпеку клієнтів та інтелектуальну власність компанії.
Як запобігти ризикам?
- Навчання працівників, щоб ті використовували лише внутрішні системи ШІ для обробки конфіденційної інформації.
- Проведення аудиту і моніторинг застосування зовнішніх інструментів ШІ.
- Створення чітких політик та обмежень доступу до даних через сторонні додатки.
«Працівники можуть бачити переваги у швидшому виконанні завдань, але роботодавці часто не мають жодного контролю над тим, які системи і які дані були в них передані», — попереджає Владислав Тушканов, керівник відділу досліджень у кіберкомпанії Kaspersky.
Перегляд бізнес-процесів у світлі ШІ
Зі стрімким розвитком штучного інтелекту підприємствам потрібно оновити свої робочі процеси, заклавши безпеку в основу.
Премчанд Куруп, CEO кібербезпекової компанії ParamountAssure, наголошує на важливості:
- Виявлення несанкціонованого використання зовнішнього ШІ, що загрожує витоком інформації.
- Впровадження узгоджених і безпечних альтернативних рішень.
- Встановлення чітких правил доступу до конфіденційних даних та моніторинг їх виконання.
За даними звіту IBM за 2026 рік, 26% усіх злочинних порушень безпеки на Близькому Сході були пов’язані з використанням ШІ, а середні втрати від витоку інформації сягали 8 мільйонів доларів. Ці дослідження охоплювали організації в ОАЕ та Саудівській Аравії.
Контроль за агентами штучного інтелекту
Ще однією складністю для бізнесу стане пильне спостереження за агентами ШІ, які виконують дедалі більш складні завдання з мінімальним людським втручанням.
Питання відповідальності у разі помилок таких «розумних агентів» стає особливо гострим, адже, як зазначає Кості Перрікос, глобальний фахівець із генеративного ШІ компанії Deloitte, відповідати доведеться все ж людині.
Він радить розглядати ШІ-агентів як цифровий персонал:
- Проводити регулярну перевірку їхньої роботи.
- Визначати рівень відповідальності для кожної системи.
- Реєструвати дії агентів і контролювати їхній запуск та припинення роботи.
Цікаво, що уряд ОАЕ планує впровадити агентний ШІ у 50% федеральних секторів протягом найближчих двох років, що демонструє швидкість розвитку технологій.
Рекомендації для безпечного впровадження ШІ
Премчанд Куруп підкреслює необхідність:
- Обмежувати доступ агентів ШІ, допускаючи їх працювати лише з перевіреними внутрішніми даними.
- Проводити ретельні перевірки безпеки для всіх дій, що здійснюються за допомогою ШІ.
- Навчати співробітників ставити під сумнів результати роботи систем та зберігати відповідну документацію.
Ахмед Хафез із компанії Snowflake наголошує на важливості ретельного тестування у контрольованому середовищі та впровадження належної системи управління і безпеки з самого початку.
Коли системи ШІ беруть на себе більш складні завдання, довіра до інформації та контроль над рівнем доступу стають ключовими факторами успіху бізнесу.
