Чи зникають дані остаточно? Ризики зберігання інформації в AI-системах
Працівник офісу А намагався прискорити робочий процес і загрузив внутрішні дані компанії у ChatGPT. Згодом через побоювання щодо безпеки він видалив історію чатів, припускаючи, що таким чином інформація повністю зникла. Проте чи дійсно це так?
Дані не зникають просто так
Насправді видалення переписки з інтерфейсу не гарантує усунення інформації з серверів штучного інтелекту чи резервних копій. Навіть коли чат зникає з екрану, ваші дані можуть залишатися збереженими в різних системах компанії, що надає AI-послуги.
Зокрема, секретна інформація або особисті дані, введені у генеративні штучні інтелекти, можуть зберігатись роками. Особливо це стосується даних, які використовуються для навчання AI-моделей — їх вилучення часто виявляється практично неможливим, що створює нові виклики у сфері безпеки для бізнесу.
Що таке Shadow AI і чому це серйозно?
Світовий дослідницький гігант Gartner у своєму звіті «Act Quickly to Remediate Shadow AI Data Loss» попереджає про небезпеки так званого «прикритого» ІІ. Це AI-сервіси, що використовуються співробітниками без офіційного дозволу чи контролю компанії.
Працівники часто запускають генеративні AI з особистих акаунтів на робочих комп’ютерах, незважаючи на заборони. Через це інформація, яку вони вводять, не лише залишається в чатах, а й записується у різні системи:
- реєстри запитів і відповідей сервера;
- системи безпеки;
- тимчасові сховища;
- резервні копії;
- дані для навчання моделей.
Кожен з цих сегментів має свої терміни зберігання та методи видалення, тому інформація розпорошується по безлічі місць.
Збільшення числа інцидентів, пов’язаних з AI
Рівень випадків інформаційних проривів із залученням Shadow AI зростає» — попереджає Gartner із посиланням на звіт IBM за 2026 рік.
Пропорція таких інцидентів подвоїлася та склала 43%, тоді як середня вартість збитків досягла 5,39 млн доларів (приблизно 7,2 млрд гривень). У більшості випадків було скомпрометовано або викрадено значну частину даних компаній.
Куди йдуть ваші дані після видалення?
Типові терміни зберігання
Візьмемо для прикладу архівацію даних за моделлю Gartner:
- Переписки можуть залишатися на серверах до 30 днів після того, як ви їх видалили.
- Логи запитів і відповідей також зберігаються близько місяця.
- Дані, визнані небезпечними або неприйнятними системою безпеки, можуть триматися навіть 2-7 років.
- Інформація, зібрана для навчання AI, зберігається до 5 років.
Вивчена інформація залишається в моделі
Найбільш критичною проблемою є дані, які AI вже опрацював та включив у свою модель. Пояснюють, що так звані параметри, які формують знання ШІ, складно або навіть неможливо розділити чи видалити після навчання.
Технологія «машинного забування» (machine unlearning), яка б могла виключати конкретні фрагменти інформації з моделі, досі перебуває на стадії розробки. Повторне навчання моделей без певних даних часто є неймовірно затратним як за часом, так і ресурсами.
Відмінності між корпоративними та особистими AI-сервісами
Компанії мають власні політики з безпеки, які не завжди поширюються на особисті акаунти співробітників, навіть якщо вони використовують ті ж AI-сервіси через робочі пристрої.
Отже, просте підключення до корпоративного комп’ютера не гарантує застосування корпоративних заходів захисту до особистого сеансу AI.
Рекомендації у разі витоку даних
Якщо все ж відбулося витікання інформації, Gartner радить:
- негайно заблокувати функції використання даних для навчання;
- видалити переписки та персональні дані зі сховищ;
- перевірити, чи немає додаткових вразливостей і негайно змінити паролі та інші дані авторизації.
Також наголошується: стерти історію бесід на екрані — це лише початковий крок. Залишки даних можуть перебувати в логах сервера та буферних копіях, тому обов’язково треба перевірити, наскільки ефективним є видалення насправді.
