Небезпечна лазівка в ChatGPT: як штучний інтелект генерує небажані зображення
Нещодавно британські дослідники у сфері безпеки штучного інтелекту повідомили BBC про дивовижний випадок — простий, на перший погляд, запит до останньої публічної версії ChatGPT спровокував генерацію зображень із сексуальним і насильницьким змістом. Ця знахідка створює додатковий тиск на системи безпеки OpenAI, адже запит не був явно графічним і не містив прямих описів забороненого контенту.
Як обійти фільтри без прямого прохання?
Команда Mindgard, стартапу, що займається безпекою в AI, показала, що невеликі зміни у формулюванні популярного для жартів інструктажу змогли підштовхнути ChatGPT до створення картин, які включають:
- кровопролитні сцени;
- образи з обмеженням рухів;
- нюд і сексуальні пози;
- сцени, які могли б натякати на сексуальне насильство.
За словами дослідників, OpenAI швидко додали нові захисні механізми після повідомлення від BBC, проте навіть незначні зміни у формулюванні спроможні породити тривожний контент.
Чому сучасні фільтри не завжди спрацьовують
Річ у тім, що системи штучного інтелекту діють за зовсім іншими принципами, ніж людина. Вони генерують результати, а потім комплекс заходів із фільтрації намагається не допустити вихід за межі прийнятного. Однак межа ця не завжди чітка, і обходи системи — нерідке явище.
Основні причини проблеми:
- Модель не має власного “почуття” шкоди, тож повністю покладися на неї не можна.
- Захисні шари працюють послідовно, але нові “лазейки” з’являються часто та непередбачувано.
- Правила забороняють контент з жорстокістю, сексуальним насильством, експлуатацією дітей та інше, але складність їхнього визначення дає змогу “перехитрити” систему.
Вплив таких зображень на користувачів
Штучний інтелект і генератори зображень дедалі більше стають частиною повсякденного життя, доступними не тільки спеціалістам. Якщо системи безпеки не встигатимуть реагувати на нові виклики, користувачі ризикують отримати шокуючий контент несподівано і безпідставно. Мова йде не лише про етичний аспект, а й про безпеку мільйонів людей.
Що роблять і що ще потрібно впровадити
Компанія OpenAI заявляє, що використовує багато рівнів захисту, серед яких:
- автоматизовані фільтри;
- людську модерацію;
- постійний моніторинг збоїв.
Проте інцидент із Mindgard показує, що це не завжди ефективно. Фахівці наполягають:
- постійно проводити червоні тести («red-teaming»);
- оперативно розкривати інформацію про вразливості;
- і найголовніше — доводити, що нові захисти дійсно працюють, не даючи проломам повторюватися.
