OpenAI починає ставити невидимий водяний знак на тексти ChatGPT в ЄС: що це означає?
OpenAI довго пояснювала, чому не буде наносити водяний знак на тексти, створені ChatGPT. Проте тепер компанія починає це робити, і деякі речі змінилися не через технологію, а через законодавчі вимоги з дедлайном і штрафами.
Як працює водяний знак ChatGPT?
Технологія, відома як textGrain, не додає ніяких помітних ознак до тексту. Замість цього вона “тонко підштовхує” вибір слів у місцях, де є альтернативи — обирається варіант, який відповідає певному секретному ключу. По одному зміщенню це майже непомітно, але під час читання великого блоку тексту формується характерний “підпис”.
Ось кілька особливостей цього методу:
- Водяний знак невидимий і зберігається навіть при копіюванні чи вставці.
- Показники якості тексту не постраждали — дослідники відзначають, що вихідний текст зі знаком і без має майже однакові оцінки.
- Технологію розробляли разом із фахівцями з університетів Пенсільванії та Єля.
Інструмент, який OpenAI вже мала, але не використовувала
Ще влітку 2024 року стало відомо, що OpenAI вже володіє робочою системою водяних знаків, яка внутрішньо оцінена як надзвичайно ефективна. Але компанія стримувала запуск через кілька причин:
- Зловмисники могли обійти позначення за допомогою перекладів або перефразувань.
- Маркери могли негативно вплинути на ставлення до ШІ як допоміжного засобу для людей, які не є носіями англійської.
- Було побоювання, що користувачі відвернуться до конкурентів, які не позначають свої тексти.
Новий крок свідчить, що деякі сумніви OpenAI вирішила, а інші — просто “закріпила” на певних ринках.
Що кажуть цифри OpenAI, і як насправді працює захист
Рівень виявлення підпису textGrain залежить від багатьох чинників і не бездоганний:
- При мінімальному ризику хибного спрацьовування (1%) система виявляє близько 80% водяних знаків у тексті довжиною 200 слів і 95% — на 400.
- Якщо замінити 10% слів синонімами, ефективність упаде з 92% до 66%.
- Заміна чверті слів призводить до зниження виявлення до 17%.
Особливо складно виявити водяний знак у коротких відповідях, математичних формулах та перекладеному тексті. OpenAI попереджає, що навіть відсутність водяного знаку не доводить, що текст створений людиною.
Чому Європейський Союз і саме зараз?
Вся справа у законі — статті 50 AI Act, яка набула чинності 2 серпня 2024 року. Вона вимагає, щоб провайдери генеративних систем маркували створений контент у машинозчитуваному вигляді та надавали механізм його виявлення.
Основні моменти закону:
- Провайдери мають позначити синтетичні тексти, аудіо, зображення та відео.
- Період введення відповідності закінчується 2 грудня 2024 року.
- Порушення загрожує штрафом до €15 млн або 3% від світового доходу — що більшою сума.
Ці вимоги й пояснюють, чому OpenAI починає застосовувати технологію саме в ЄС, а не скрізь одночасно.
Два ключові нюанси впровадження
По-перше, детектор водяного знаку наразі доступний лише схваленим дослідникам і організаціям за індивідуальним запитом. Звичайний користувач чи вчитель у Лісабоні чи Варшаві не зможе перевірити підозрілий текст власноруч.
По-друге, нанесення водяного знаку відключене за замовчуванням у всіх країнах, окрім тих, де діє суворий контроль, як ЄС. На інших ринках воно доступне лише для розробників за бажанням. Це демонструє прагматичний підхід компанії, яка реагує на регулювання і конкуренцію.
Що буде далі і що це означає для користувачів?
OpenAI обіцяє скоро зробити алгоритм textGrain відкритим кодом, що дасть змогу перевірити заявлену ефективність порівняно з іншими технологіями, наприклад, Google SynthID.
Для жителів Євросоюзу по завершенню переходного періоду всі тексти ChatGPT, створені під час використання сервісу, матимуть приховану позначку від OpenAI. В інших частинах світу це залишається опційним та залежить від ринку.
