OpenAI вводить невидимий водяний знак для текстів ChatGPT в Європейському Союзі: що треба знати
Незабаром у країнах ЄС користувачі ChatGPT та Codex з усіх тарифних планів отримають тексти з прихованим водяним знаком. OpenAI анонсувала нову технологію текстового водяного знака під назвою textGrain, який додається до вибору слів у згенерованому вмісті. Проте, вже на перших оглядах видно, що прості заміни синонімів значно знижують ймовірність виявлення цього знаку. Наприклад, заміна 10% слів у 400-токеновому фрагменті знижує точність виявлення з приблизно 92% до 66%, а 25% замін – і зовсім до 17%.
Як працює textGrain і чому це важливо
TextGrain — це статистичний та безпечний спосіб позначати текст, створений моделями OpenAI, не впливаючи на читабельність для користувачів. Суть полягає у невидимому «маячку», який реалізується через особливий вибір слів, що зазвичай не помітний при простому читанні.
Важливим фактором є довжина тексту: чим він довший, тим легше виявити водяний знак. Так, на 1% фальшивих позитивів:
- виявлення тексту обсягом 200 токенів проходить приблизно у 80% випадків;
- для 400 токенів цей показник складає близько 95% за матеріалами з психології;
- але в області математики точність суттєво падала через обмежений вибір синонімів.
На даний момент ці цифри — результати внутрішніх тестів OpenAI, і сторонні розробники поки не можуть перевірити їх самостійно, оскільки детектор не став публічним.
Де і коли чекати на водяний знак?
З 5 жовтня користувачі API OpenAI у всьому світі можуть добровільно увімкнути водяний знак для деяких моделей — але це не стане стандартною опцією. Водночас для ChatGPT і Codex у Європейському Союзі впровадження має бути обов’язковим для всіх тарифних планів, але тільки в межах ЄС.
Старт оновлення очікується у найближчі тижні, але точних дат поки що немає. OpenAI також не оголосила, які саме моделі API отримають підтримку цієї технології.
Водяний знак без шкоди для якості тексту
За власними бенчмарками OpenAI, водяний знак майже не впливає на продуктивність моделей. Результати тестів на різних завданнях показують, що зміна якості тексту мінімальна або відсутня, а в окремих випадках – навіть невелике покращення.
Ось декілька цифр із бенчмарків OpenAI, що порівнюють роботу моделей з водяним знаком і без нього:
- GPQA Diamond — з 94,44% до 93,94%;
- DeepSWE v1.1 — з 72,80% до 71,68%;
- Terminal-Bench Science 0.1 — з 56,90% до 60,00%;
OpenAI стверджує, що textGrain не поступається за ефективністю іншим існуючим методам, наприклад, SynthID, що вже використовується для виявлення синтетичного тексту.
Що водяний знак не зможе розповісти
Важливо пам’ятати, що наявність або відсутність такого водяного знака не розкриває повну картину:
- не визначає, скільки людина внесла власного внеску у текст;
- не підтверджує авторство чи відповідальність;
- не ідентифікує конкретного користувача;
- не гарантує достовірність або точність інформації;
- відсутність водяного знака не означає, що текст написано людиною — це може бути наслідок редагування, перекладів чи підтримки лише деяких моделей.
З технічного боку, текст може легко позбавитися водяного знака через простий переклад слів на синоніми, що ставить межі використанню цієї технології як однозначного доказу штучного походження текстів.
Що з іншим контентом?
OpenAI вже відкрито надає інструменти для перевірки зображень та аудіо на наявність підписів. Для текстів же впровадження відбувається значно повільніше, і поки пріоритет віддається лише ChatGPT та Codex.
Компанія планує з часом розширити доступ до детектора, але поки що він відкритий лише для обраних дослідників та експертних організацій, щоб мінімізувати помилки і неправдиві спрацьовування.
