OpenAI вводить невидимі водяні знаки для текстів ChatGPT та Codex у ЄС: що це означає для користувачів
Компанія OpenAI оголосила про запуск нової функції — додавання невидимих водяних знаків до текстів, створених за допомогою ChatGPT та Codex на території Європейського Союзу. Цей крок є частиною дотримання нових правил ЄС у рамках AI Act, що підвищують прозорість штучного інтелекту та допомагають ідентифікувати контент, сгенерований машинами.
Що зміниться для користувачів у ЄС
Протягом найближчих тижнів OpenAI почне впроваджувати цю технологію на всі види текстів, створених на базі ChatGPT і Codex у всіх тарифних планах, доступних у Євросоюзі. Водночас, водяні знаки не з’являться автоматично для інших країн, що дозволяє компанії відстежувати, як нововведення працюватиме в реальних умовах та зібрати зворотний зв’язок для подальшого покращення.
Розробники також отримають можливість активації водяних знаків у своїх проєктах через API, причому ця функція доступна глобально, але за замовчуванням вимкнена. Крім того, OpenAI співпрацює з хмарними провайдерами, щоб інтегрувати технологію у сервісні продукти в найближчі тижні.
Як працює невидимий водяний знак
Технологія, названа textGrain, створює статистичний сигнал у виборі слів моделі — це свого роду «невидиме підписування» тексту. Люди не можуть помітити цей маркер, але спеціальний детектор розпізнає його, вказуючи на те, що текст містить водяний знак OpenAI.
Компанія вже опублікувала технічний звіт про цю методику і планує зробити її відкритим програмним забезпеченням у майбутньому. textGrain показав кращі або рівні результати у порівнянні з іншими методами, наприклад, SynthID для текстів.
Втім варто враховувати, що навіть при ідеальних умовах детектор не гарантує 100% точність у повсякденному використанні.
Обмеження виявлення водяного знаку
- Довжина тексту: Чим довший текст, тим краще розпізнається водяний знак. Для уривків приблизно на 200 слів детектор спрацьовує близько 80% випадків, а для 400 слів — до 95%. Проте у математичних текстах через обмеження у виборі слів ефективність знижується.
- Редагування тексту: Заміна слів на синоніми ослаблює сигнал. Якщо замінити 10% слів, розпізнавання падає з 92% до 66%, а при 25% замінах — лише 17%.
Що водяний знак показує і що — ні
В OpenAI наголошують на кількох важливих моментах, які не дає зрозуміти виявлення водяного знаку:
- Не оцінюється рівень участі людини у створенні тексту.
- Не встановлюється авторство або відповідальність за зміст.
- Водяний знак не асоціює текст з конкретним користувачем, обліковим записом чи діалогом.
- Точність змісту перевірити неможливо через наявність водяного знаку.
- Відсутність знаку не гарантує, що текст написаний людиною — короткі або відредаговані тексти можуть «обійти» детектор.
Що це означає для користувачів ChatGPT та Codex в Європі
Візуально користувачі не помітять змін — водяний знак не впливає на якість чи вигляд тексту. У тестах нової версії моделі Astra з водяним знаком і без нього результати майже не відрізнялися. Є деяка мінлива перевага то в ту, то в іншу сторону за різними параметрами, але все в межах норми.
Важливо розуміти, що водяний знак — це не доказ авторства. Педагоги, роботодавці і видавці мають враховувати, що результати перевірки не можуть бути єдиним підставою для висновків про походження тексту.
Також OpenAI стверджує, що детектор не розкриває зміст запитів або розмов користувачів, зберігаючи конфіденційність.
Хто отримає доступ до детектора
Відкритого доступу до інструменту виявлення водяних знаків для широкої аудиторії не передбачено. Дослідники та спеціалізовані організації можуть подавати заявки на отримання доступу відповідно до Кодексу практики ЄС щодо контенту, створеного штучним інтелектом. Через ризик помилок і невиявлених знаків OpenAI вважає за краще обмежити розповсюдження цієї технології.
Для порівняння, засоби виявлення водяних знаків на зображеннях і аудіо залишаються загальнодоступними, серед них — веб-інструмент перевірки на сайті openai.com/verify та API для підтвердження походження контенту.
