OpenAI починає позначати тексти ChatGPT у ЄС за допомогою “водяного знаку”
Раніше цього року Anthropic оголосила, що для дотримання Регламенту ЄС щодо штучного інтелекту (EU AI Act) почне позначати штучно згенеровані тексти спеціальним “водяним знаком”. Цікаво, що ця функція була впроваджена не лише для клієнтів із Європейського Союзу, а глобально, що деяким здалося надмірною мірою. Тепер же OpenAI прийняла схоже рішення, але обмежила застосування водяного знаку лише для користувачів ChatGPT, які перебувають у межах ЄС.
Компанія офіційно повідомила 5 жовтня, що в найближчі тижні почне додавати невидимий “водяний знак” до текстів, створених ChatGPT та Codex, але тільки для аудиторії в ЄС. Це означає, що користувачі з США, Великої Британії та інших регіонів поки не відчують жодних змін.
Що таке “водяний знак” і як він працює?
Щоб інтегрувати цей невидимий маркер у тексти, OpenAI застосовує власну технологію під назвою textGrain. Вона делікатно змінює вибір слів у згенерованому тексті, вводячи статистичний сигнал, який дозволяє пізніше виявити, що цей уривок походить з моделей OpenAI.
На офіційному сайті компанії пояснюють: «Наш метод накладання водяного знаку textGrain додає невидимий статистичний сигнал у вибір слів моделі. Детектор шукає цей сигнал, щоби оцінити, чи містить текст водяний знак OpenAI». Більше деталей з’явиться у технічному звіті найближчими тижнями.
Особливості та складнощі водяного знаку
Ця ідея викликає суперечливі відчуття, адже вибір слів штучним інтелектом тепер залежить не лише від того, що найкраще підходить користувачу, а й від алгоритму водяного знаку. Хоча це не означає, що текст одразу стане гіршим, його оптимальність у певних випадках може постраждати.
Також слід врахувати, що система грунтується на спеціальному інструменті виявлення, який зараз доступний лише для обмеженої кількості науковців і експертних організацій за поданою заявкою. Відсутність загальнодоступного детектора залишає відкритими сумніви щодо ефективності та прозорості такого підходу.
Що дає таке рішення і які виклики воно ставить?
Відповідно до заяви OpenAI, інструмент для виявлення водяних знаків:
- Не розкриває особистість користувача.
- Не передає інформацію про запити або бесіди.
- Наразі не відкритий для широкого загалу через можливі помилки та хибні спрацьовування.
Окрім цього, водяний знак має певні вразливості:
- Короткі або строго структуровані тексти важче ідентифікувати.
- Редагування тексту може ослабити або повністю зруйнувати водяний знак.
- Можна запропонувати ChatGPT уникати водяного знаку під час генерації, що ставить питання про надійність системи.
Обмежена дія — лише в ЄС
Покриття цієї новації лише країнами Європейського Союзу відповідає вимогам локального законодавства і не стосується користувачів за межами ЄС. Це підкреслює прагнення компанії локалізувати регулювання, водночас зберігаючи майже незмінний досвід для інших регіонів світу.
Погляд у майбутнє
У найближчі тижні OpenAI планує регулярні оновлення свого технічного звіту, що дозволить зрозуміти тонкощі роботи textGrain і можливі сценарії застосування водяних знаків. Для науковців та дослідників відкривається можливість подавати заявки на доступ до інструментів детекції, що може сприяти прозорості та глибшому розумінню цих механізмів.
Тим часом користувачам варто бути готовими до того, що тексти, згенеровані в межах ЄС, матимуть прихований маркер, покликаний відповідати новим вимогам безпеки й ідентифікації в цифровому просторі.
