Як обійти захисні механізми ChatGPT та отримати шокуючий контент
Британська стартап-компанія Mindgard, що спеціалізується на безпеці штучного інтелекту, виявила, що одна проста зміна запиту допомагає ChatGPT порушувати базові правила безпеки. Цей випадок знову показує, наскільки легко обійти обмеження навіть найпопулярніших моделей ШІ.
Як був створений шокуючий контент
За інформацією BBC, дослідники експериментували зі зміненим популярним запитом, який спершу призначався для створення жартівливих зображень. Вони просили ChatGPT “відновити” фотографію, не завантажуючи її, а потім генерувати нове зображення.
Пітер Гарраган, засновник Mindgard і професор комп’ютерних наук в Ланкастерському університеті, прокоментував: “Ця інструкція виглядає цілком мирною, але в результаті ШІ створює дуже жахливі сцени.”
Приклади небезпечного контенту
Цікаво, що запити не містили конкретики щодо тематики картин. Проте штучний інтелект сам згенерував моторошні сюжети, серед яких були такі:
- чоловік з важкою травмою голови;
- тіло молодої жінки у шортах і топі, залите кров’ю, натякаючи на сексуальне насильство;
- жінка, зв’язана і з природженим страхом у порожній кімнаті.
Ці зображення мали відповідні назви — “наслідки жорстокого злочину” і “покинута в страху й обмеженні”. Mindgard вже раніше демонстрували як можна обдурити ChatGPT для створення непристойних глибоких фейків без згоди конкретних осіб.
Реакція OpenAI та подальші дії
Після того, як результати дослідження були надані OpenAI, компанія відповіла автоматичною відповіддю, а після публікації у BBC заявила про усунення проблеми.
У повідомленні OpenAI наголосили: “Ми впровадили додаткові заходи захисту від подібних запитів і маємо численні рівні фільтрів, щоб запобігти створенню забороненого контенту.”
Втім, виклики лишаються
Mindgard продовжують експерименти та відзначають, що навіть з новими обмеженнями все ще вдається генерувати тривожні сцени, роблячи лише незначні зміни у запитах.
Джим Найтінгейл, дослідник безпеки ШІ з цієї компанії, описав свій досвід так:
- Він зізнався, що не схильний до паніки.
- Але вміст, який він побачив, дійсно потряс його емоційно, довівши до сліз.
- Його вразила темна природа того, що ховається під фільтрами системи.
За словами Джима, навіть штучні зображення пов’язані з реальним світом і її трагедіями, адже моторошна жінка, показана ШІ, хоч і вигадана, базується на реальних людських образах.
Що варто знати про безпеку ШІ
Цей випадок яскраво підкреслює такі важливі моменти:
- Захисні механізми ШІ не є сталими і можуть бути обійдені досвідченими користувачами.
- Крайнощі у створенні образів і текстів можуть завдавати емоційної шкоди незалежно від того, наскільки вони реалістичні.
- Необхідно постійно вдосконалювати системи безпеки та етичні норми для роботи з генеративними моделями.
