Нові функції безпеки ChatGPT: режим блокування та позначки підвищеного ризику
OpenAI представила у ChatGPT інноваційні заходи безпеки — Режим блокування (Lockdown Mode) та позначки підвищеного ризику (Elevated Risk labels). Ці інструменти покликані допомогти як окремим користувачам, так і організаціям, зменшити загрозу витоку даних через атаки типу prompt injection та інші складні кіберзагрози. Особливо це важливо, коли чат-бот взаємодіє з зовнішніми системами.
Що дає Режим блокування та як він працює
Режим блокування — це додатковий рівень захисту для тих, хто суворо стежить за безпекою інформації. Його мета — обмежити можливості ChatGPT взаємодіяти з іншими системами так, щоб мінімізувати ризик злому через маніпуляції з підказками.
Наприклад, під час роботи з інтернет-браузером відсутній вихід запитів у мережу за межі контролю OpenAI — все спирається на кешовані дані. Це робить практично неможливим крадіжку конфіденційної інформації через веб-запити.
Адміністратори мають змогу активувати Режим блокування у Налаштуваннях робочого простору та створювати спеціальні ролі, які накладають додаткові обмеження поверх стандартних прав. Вони також вибирають, які додатки і дії будуть доступні для користувачів у цьому режимі.
Наразі ця функція доступна в ChatGPT Enterprise, ChatGPT Edu, ChatGPT для охорони здоров’я та навчання, а в майбутньому планується її надати звичайним користувачам.
Позначки підвищеного ризику: що це і навіщо вони потрібні
Позначки підвищеного ризику — це своєрідний вбудований помічник, який попереджає про потенційні небезпеки, що виникають при активації окремих функцій, які пов’язують AI зі сторонніми додатками або мережею. Вони допомагають краще усвідомити, що зміниться та які ризики можуть з’явитись, щоб користувач зміг прийняти виважене рішення.
Ці позначки стосуються не лише ChatGPT, а й ChatGPT Atlas та кодувального AI Codex. Вони детально роз’яснюють: що робить функція, що змінюється після її ввімкнення, які загрози існують і в яких випадках варто її використовувати.
Наприклад, у Codex дозвіл на доступ до мережі дає змогу системі робити дії в інтернеті. При цьому позначка підвищеного ризику чітко пояснює, що це означає з точки зору безпеки, і показує розцінку на потенційні компроміси.
Підсилення заходів безпеки в майбутньому
OpenAI активно розвиває і вдосконалює захисні механізми, звертаючи увагу на нові або зростаючі загрози. Коли компанія виявить, що ризики досить зменшені, позначки підвищеного ризику будуть зніматися з відповідних функцій. Також список таких функцій буде постійно оновлюватись, щоб користувачі завжди отримували актуальну інформацію про потенційні ризики.
