Як AI-помічники, на кшталт ChatGPT, почали видавати шокуючі зображення
Штучні інтелекти, такі як ChatGPT, створені з думкою про безпеку користувачів і мають надбудови, що мають зупиняти створення шкідливого контенту. Проте британська компанія Mindgard, яка займається перевіркою AI-систем на вразливості, знайшла спосіб змусити ChatGPT генерувати відверті й болісні матеріали.
Фахівці Mindgard звернули увагу, що невелика зміна одного з популярних нейтральних запитів провокує ШІ до створення жахливих сцен: від насильства до сексуальних зображень, які користувач безпосередньо не просив. Трюк полягав у тому, щоб попросити ШІ “відновити” випадкове зображення, переконуючи його, що оригінал є надзвичайно графічним, навіть якщо це було не так.
Отримані матеріали виявилися жахливими, зокрема — насильницькі сцени з мертвими жінками.
Психологічний ефект від експерименту
Дослідник Mindgard Джим Найтінгейл розповів, що побачені зображення довели його до сліз. Контент-фільтри ChatGPT, які відповідають за безпеку зображень, у цих випадках просто перестали працювати. «Я побачив дуже темний бік прихованих даних і навчальних зображень», — поділився він.
«Жінка на зображенні, зробленому ChatGPT, не є реальною, але її образ базується на комбінації реальних фото», — додав Джим. «Можливо, навіть на фото вбитих жінок».
Як відповів OpenAI на виявлену проблему
Публікації Mindgard, де викривалися ці небезпечні прийоми, ми не поширюємо через потенційну шокову природу матеріалів, навіть якщо там використовуються редаговані зображення. На момент публікації 22 червня ChatGPT не дав прямої відповіді на звіт Mindgard, надісланий ще у травні.
Проте OpenAI прокоментувала BBC, що в системі вбудовано кілька рівнів захисту, спрямованих на запобігання створення подібного контенту. За документацією OpenAI, існують текстові класифікатори, які мають блокувати запити на шкідливі зображення ще на початковому етапі. Також перед показом користувачеві вихідних матеріалів працює додатковий логічний модуль оцінки результатів. Однак у випадках Mindgard ці запобіжники не спрацювали.
Нові виклики в безпеці AI
Варто зазначити, що цей способ маніпуляції не є поодиноким. Уже у лютому Mindgard демонстрував інші методи — наприклад, як переконувати ChatGPT створювати «лагідні» нюдзи. Далі ці зображення ставали все більш відвертими, а пізніше AI навіть зміг замінювати обличчя публічних осіб на таких фото.
Навіть коли OpenAI повідомила, що проблему усунуто, Mindgard за допомогою модифікації свого запиту продовжував отримувати тривожний контент.
Проблеми не лише в OpenAI: ситуація з іншими платформами
OpenAI не є єдиним, хто стикається з такими труднощами. Наприклад, AI від xAI під назвою Grok значно частіше генерує небезпечні зображення. З 55 протестованих запитів 45 викликали створення сексуалізованих сцен, а повторне тестування через п’ять днів показало подібний результат — 29 з 43 запитів знову призвели до таких картин, навіть коли предметам зображень не було надано згоди.
Неприбуткова організація AI Forensics проаналізувала близько 50 тисяч твітів із запитами для Grok і 20 тисяч зображень. Виявилось, що 53% від усіх картинок містили явний контент, із них 81% — це зображення жінок і 2% — неповнолітніх.
Матеріали, згенеровані Grok, були передані французьким регуляторам для можливого розслідування порушень за законом про цифрові послуги (Digital Services Act), зокрема, стосовно дитячої порнографії.
Швидка гонка між регуляцією і маніпуляціями
Ця проблема виходить за межі окремих платформ. Дослідження Центру з управління ШІ (Centre for the Governance of AI) показало, що деякі компанії навмисне послаблюють свої заходи безпеки, щоб не відставати від конкурентів. Це створює ефект доміно, коли захист слабшає у багатьох учасників ринку одночасно.
- Розглядайте обіцянки безпеки комерційних інструментів генерації зображень як рекламний текст з анотаціями.
- Вони намагаються блокувати маніпуляції зловмисників, але боротьба триває постійно.
- Захисні фільтри діють для переважної більшості звичайних користувачів, але не завжди стримають наполегливих порушників.
Як захистити себе від несанкціонованого використання образів
Якщо ваша фотографія оприлюднена в інтернеті, припускайте, що вона може бути використана у неприємних контекстах.
У разі виявлення несанкціонованих, особливо непристойних чи образливих матеріалів із вашим зображенням, є кілька кроків, які допоможуть їх вилучити:
- Використовуйте механізми блокування і видалення на платформах, де виявили матеріал.
- Звертайтеся до спеціалізованих організацій, наприклад, у США – National Center for Missing and Exploited Children (сервіс Takeitdown), а у Великій Британії – Internet Watch Foundation.
- Слідкуйте за новинами в сфері технологій, оскільки методи захисту та боротьби з маніпуляціями постійно оновлюються.
Чи знаєте ви, що можуть знати кіберзлочинці про вас?
Перевірте свій цифровий слід за допомогою безкоштовного сервісу від Malwarebytes — Digital Footprint scan. Він покаже, чи оприлюднена ваша особиста інформація в мережі, щоб ви могли захистити себе вчасно.
