OpenAI впроваджує прихований водяний знак для текстів ChatGPT в ЄС: що це означає і як працює
OpenAI готується додати невидимий водяний знак до текстів, створених ChatGPT та Codex, для користувачів у Європейському Союзі. Це нововведення, яке вступить в дію найближчими тижнями, торкнеться усіх планів підписки в рамках регіону. У своєму блозі компанія пояснила, що така міра відповідає вимогам Європейського акту про штучний інтелект, який зобов’язує робити штучно згенерований текст розпізнаваним за допомогою машин.
Як працює технологія textGrain
Система, названа textGrain, додає до вибору слів у моделі прихований статистичний сигнал. Потім спеціальний детектор шукає цей сигнал, щоб ідентифікувати текст, створений AI. У OpenAI відзначають, що textGrain показав рівень виявлення, що дорівнює чи перевищує інші методи, зокрема Google SynthID для тексту.
Основні моменти роботи textGrain:
- Сигнал інтегрується непомітно, не впливаючи на якість контенту.
- За допомогою цього методу можна виявити походження тексту за допомогою спеціальних алгоритмів.
- Команда OpenAI вже опублікувала технічний звіт разом із науковцями з університетів Пенсільванії та Єля.
Перевірки моделі Astra показали, що продуктивність не погіршується при увімкненні водяного знаку. До того ж компанія планує незабаром зробити цю технологію відкритою для розробників.
Обмеження і виклики водяного знаку
Водночас OpenAI розкриває і межі системи. За їхніми словами, при цільовій частоті хибнопозитивних спрацювань у 1%, детектор знайшов водяний знак у приблизно 80% текстів довжиною 200 слів, а для текстів майже вдвічі довших – близько 95%. Втім, якщо замінити 10% слів і синоніми, рівень виявлення опускається з 92% до 66%, а якщо замінити чверть – справа іде до 17%.
Також ефективність виявлення знижується, коли мова йде про тексти з математичним змістом, де вибір слів обмежений.
Водяний знак:
- Не ідентифікує конкретного користувача.
- Не оцінює ступінь участі людини.
- Не визначає авторство або достовірність інформації.
Відсутність знаку теж не означає, що текст створений людиною, адже він міг бути надто коротким, перекладеним, зміненим або згенерованим іншими інструментами.
«Ці обмеження стали причиною рішення надавати початковий доступ до детектора лише перевіреним дослідникам і профільним організаціям, які допоможуть оцінити надійність і відповідальне застосування», – зазначають у OpenAI.
Як отримати доступ до детектора
Заявки на використання детектора приймаються вже сьогодні – доступ надаватимуть індивідуально, дотримуючись Кодексу поведінки ЄС. Інструмент повідомляє лише факт виявлення водяного знаку OpenAI, не розкриваючи інформації про користувача чи підказки.
Компанія планує розширити доступ, щойно можна буде інтерпретувати результати без ризику для відповідального застосування. Варто також зазначити, що інструменти OpenAI для аналізу зображень та аудіо залишаються відкритими для всіх.
Терміни і контекст європейського законодавства
Пункт 50 Акту про ШІ зобов’язує розробників генеративного штучного інтелекту забезпечити машинне розпізнавання створених ними текстів. За повідомленнями Engadget, постачальники зобов’язані виконати ці умови до 2 грудня цього року.
Схожі кроки вже зробили інші гравці галузі. Наприклад, компанія Anthropic почала застосовувати водяні знаки для текстів Claude по всьому світу з серпня, хоча з певними виключеннями. Нещодавно з’явилися також інструменти для видалення таких знаків. Google DeepMind, своєю чергою, використовує SynthID для ідентифікації штучного дизайну білків.
