OpenAI впроваджує невидимий водяний знак для текстів і коду у ЄС
Компанія OpenAI запускає унікальну технологію, яка наносить невидимий водяний знак на тексти і коди, створені ChatGPT та Codex у межах Європейського Союзу. Це нововведення спрямоване на виконання вимог ст. 50 Європейського закону про штучний інтелект (AI Act), згідно з якою автогенерований AI контент має бути машинно ідентифікованим. Тепер будь-хто, хто вставляє результати ChatGPT у листи, звіти чи сайти, може отримати тексти, що легко виявляються спеціальними детекторами, хоча для звичайного читача все виглядає звичайно.
Як працює водяний знак textGrain
Система отримала назву textGrain і працює за принципом статистичного впливу на вибір слів у тексті. Важливо, що це не “скрите” кодування, без прихованих символів або метаданих — нічого не видно і нічого просто так не стерти. Відповідний детектор може аналізувати текст і визначати з великою ймовірністю, чи створений він штучним інтелектом, пояснюють у OpenAI.
Увага: це не пристрій для визначення особистості автора або ж для читання запитів і історії чатів користувачів. Спершу доступ матимуть лише затверджені дослідники та спеціалізовані організації, а згодом компанія планує представити технологію у відкритому доступі.
Переваги та особливості
- Відсутність видимих слідів у тексті — інноваційний підхід без прихованих символів.
- Захист ідентичності користувачів: no data про особу чи історію використання.
- Відкритий доступ для наукової спільноти та громадськості після початкового періоду.
Обмеження та нюанси роботи водяного знаку
Точність розпізнавання залежить від довжини тексту. За даними AlphaSignal, детектор успішно виявляє авторство AI приблизно в 80% випадків для фрагментів довжиною 200 токенів (слово або частина слова) та досягає 95% для 400 токенів. Проте складні математичні тексти традиційно виявляється складніше розпізнати.
Важливо пам’ятати, що редагування суттєво знижує ефективність визначення водяного знака. Якщо замінити близько чверті слів синонімами, ймовірність розпізнавання падає до приблизно 17%. Таким чином, ця технологія більше служить інструментом для дотримання вимог, ніж абсолютною гарантією ідентифікації.
Факти про обмеження
- Довжина тексту суттєво впливає на розпізнавання.
- Редагування знижує точність виявлення автогенерованих текстів.
- Специфічні типи контенту, як математика, складніші для ідентифікації.
Як це працює поза межами ЄС
Щодо користувачів за межами Європейського Союзу водяний знак застосовується автоматично лише до європейців. Для деяких моделей люди з інших регіонів можуть самостійно увімкнути цю опцію. У США та Великій Британії за замовчуванням ніяких змін немає.
Зверніть увагу, що у Великій Британії досі немає окремого закону, що вимагає маркувати AI-контент, як і в США немає подібного федерального регулювання. Компанії, що працюють на європейському ринку, змушені виконувати правила, якщо вони використовують інструменти OpenAI і обслуговують європейських клієнтів.
Що чекати далі
- Компанії в ЄС мають час до 2 грудня, щоб привести свої продукти у відповідність із новими вимогами.
- OpenAI наразі продовжує розвивати свої сервіси, наприклад, оголошує рекламу у генерації зображень та запускає нових агентів Dots.
- Величезне значення матиме, чи підхоплять конкурентні компанії сумісні водяні знаки, а також появу відкритих детекторів.
