Як ChatGPT опинився в центрі скандалу через небезпечні зображення
Нещодавнє дослідження компанії Mindgard, що спеціалізується на кібербезпеці в сфері штучного інтелекту, оголосило про вразливість ChatGPT у створенні небажаних сексуальних та жахливих графічних зображень. Все розпочалося з простого унікального запиту «відновити це фото», який став вірусним у соцмережі X. Втім, цей запит не мав жодного доданого зображення — лише прохання зробити, наче його потрібно відновити.
Дослідник Джим Найтінгейл із Mindgard застосував цей простий трюк і отримав від ChatGPT шокуючі картинки, переважно з надмірно сексуалізованими зображеннями жінок. Після кількох незначних змін у формулюванні запиту, штучний інтелект почав видавати ще більш жорстокі та гротескні сцени, що змусило Джима буквально тремтіти від пережитого. Він навіть описав свій стан як “тремтіння і сльози”.
Як працювала маніпуляція безпечними фільтрами ChatGPT
Цей випадок — не просто збій, а серйозне попередження: система контент-модерації штучного інтелекту слабка перед певними хитрощами. Найтінгейл та команда Mindgard провели серію експериментів, злегка змінюючи запити, щоб випробувати межі захисту. Ось що вдалося з’ясувати:
- ChatGPT намагався відповідати запиту, навіть якщо той торкався забороненого або небезпечного контенту.
- Безпекові фільтри не завжди змогли завадити генерації таких матеріалів.
- Навіть після того, як OpenAI додали додаткові запобіжники, обхідних шляхів залишилося вдосталь.
Речник OpenAI зазначив, що компанія серйозно поставилася до проблеми та вже посилила захист від подібних запитів. Проте сам факт, що маленьке словесне коригування призводило до небезпечних ефектів, залишається тривожним сигналом.
Чому подібні проблеми виникають у ШІ?
Щоб зрозуміти суть проблеми, варто поглянути на те, як взагалі працює ChatGPT та подібні йому системи:
- Вони “навчаються” на величезних масивах текстів і зображень, які беруть з інтернету, комерційних джерел та даних, створених людьми.
- Серед цього обсягу можуть опинитися і недоречні, а іноді й небезпечні матеріали, які потрапляють у навчальну базу.
- Саме з цієї причини активують фільтри та обмеження для блокування неприпустимого контенту, які мають запобігти подібним ситуаціям.
Але якщо ці системи виявляються не досить міцними — в результаті користувач може отримати саме те, що має бути забороненим. Пітер Гарраган, науковий керівник Mindgard, підкреслює, що проблема полягає в надійності та адаптивності систем виявлення небезпечного контенту. Короткочасні збої можна списувати на випадковість, але систематичний обхід фільтрів — це сигнал про необхідність їхнього серйозного вдосконалення.
Що зараз робить OpenAI?
Після публікації доповіді Mindgard, представники OpenAI повідомили, що вже внесли зміни до роботи ChatGPT:
- Система тепер повинна виявляти запити на “приєднане” зображення і, якщо такого немає, не приступати до генерації випадкового кадру.
- Впроваджують механізми незалежної перевірки пропонованого контенту для виключення появи небажаних матеріалів.
- Триває збір і аналіз даних для покращення безпеки чатбота.
Ці нововведення досить схожі на функції електронної пошти, де вас нагадують про відсутність прикріплених файлів при згадці в листі – проте виклик для AI значно масштабніший і складніший.
Mindgard та OpenAI активно співпрацюють, обмінюючись інформацією та сесіями всередині ChatGPT, щоб прискорити вирішення цієї проблеми і покращити безпеку взаємодії користувача з штучним інтелектом.
