OpenAI запускає приховані водяні знаки для штучного тексту в ЄС: що потрібно знати
OpenAI оголосила про введення невидимих водяних знаків до текстів, створених ChatGPT та Codex, що призначені для користувачів у Європейському Союзі. Цей крок відповідає вимогам прозорості, які встановив ЄС у рамках AI Act — регулювання штучного інтелекту.
Як працює система текстових водяних знаків?
Суть технології полягає у прихованому вбудовуванні статистичного сигналу у текст, який генерує штучний інтелект. Звичайний читач нічого не помітить, адже водяний знак абсолютно непомітний візуально. Водночас, спеціальні алгоритми OpenAI можуть аналізувати текст і шукати цей слід.
Це саме час, коли великі компанії, які працюють з ШІ, зустрічають зростаючий тиск у намаганнях ідентифікувати штучний контент. Наприклад, Anthropic ще два місяці тому запроваджувала глобальну систему водяних знаків для свого текстового генератора Claude.
Суперечки навколо водяного маркування
Деякі користувачі Claude виявили занепокоєння через таке нововведення, бо вважають, що саме користувач задає інструкції, контекст і приймає рішення, тоді як ШІ є лише інструментом для допомоги.
Варто згадати, що OpenAI вже раніше розробляла подібне маркування тексту, але відклала його впровадження через побоювання, що користувачі можуть перейти до конкурентів, які не використовують таких обмежень.
Що означає текстовий водяний знак для користувачів Євросоюзу?
Система отримала назву textGrain. Вона працює, тонко змінюючи статистичні патерни вибору слів під час створення тексту. Чекається, що найближчими тижнями водяні знаки з’являться у текстах ChatGPT та Codex у всіх країнах ЄС.
Для API-клієнтів у світі передбачена окрема опція: можливість вмикати водяний знак для обраних моделей, тоді як за замовчуванням ця функція буде виключена.
OpenAI у своєму офіційному Twitter заявляє про розширення технології відстеження контенту, щоб відповідати вимогам ЄС, хоча визнає існування суттєвих обмежень у сучасній технології маркування тексту.
Кому доступний детектор водяних знаків?
OpenAI відкрила прийом заявок на використання детектора водяних знаків у текстах. Першими до системи отримають доступ дослідники та експертні організації.
Варто зазначити, що поступове впровадження зумовлене тим, що нинішня технологія не ідеальна — детектор може показувати помилкові спрацьовування або навпаки пропускати реальні знаки.
Труднощі виявлення через редагування
За результатами тестів OpenAI, для успішного виявлення знака краще працювати з більшими обсягами тексту. Наприклад, у 200-слівних уривках з психології водяні знаки розпізнавалися в близько 80% випадків.
Якщо ж текст сягав 400 слів, точність зростала до 95%. Проте для математичних текстів показники були значно нижчими, бо тут менше варіантів для заміни слів.
Інша складність — редагування людиною. Замінюючи лише 10% слів синонімами, ефективність виявлення падала з 92% до 66%. При заміні чверті тексту детектор знаходив знаки лише в 17% випадків.
Також переклади та суттєве перефразування можуть сильно послабити сигнал водяного знака.
Що це означає для користувачів?
- Водяний знак не гарантує, що цілий текст створений ШІ.
- Якщо водяний знак знайдений, це не розкриває користувача чи контекст створення.
- Відсутність знаку не означає, що текст абсолютно «ручний» — він міг бути відредагований чи переписаний.
Різні підходи до позначення штучного контенту
OpenAI планує випустити textGrain як відкритий код, щоб ширше дослідити й покращити цю технологію. В компанії також мають намір вивчати, як переклад та редактура впливають на збереження водяних знаків.
Цей проєкт входить у ширший тренд серед провідних IT-гігантів: Anthropic, Google, Meta, Microsoft і OpenAI співпрацюють, щоб дотримуватися Кодексу практики ЄС для контенту, створеного штучним інтелектом.
Варто пам’ятати, що OpenAI вже використовує «контентні креденшили» та невидимі позначки для підтримуваних зображень і аудіо файлів. Виклик з текстом у тому, що його можна змінювати, не втрачаючи суті, що значно ускладнює технічне маркування.
Компанія обіцяє розширювати доступ до детектора зі зростанням точності й адаптувати методи у відповідності до нових наукових та законодавчих вимог.
