OpenAI запускає невидимі текстові водяні знаки для ChatGPT і Codex у ЄС
OpenAI анонсувала введення невидимих водяних знаків для текстових відповідей ChatGPT та Codex у Європейському Союзі. Це крок, що відповідає вимогам європейського законодавства щодо штучного інтелекту, з метою ідентифікації контенту, створеного за допомогою AI. Впровадження відбуватиметься поступово протягом найближчих тижнів.
Де і як буде використовуватись система водяних знаків
Нова функція буде доступна для користувачів усіх планів в ЄС, а також для клієнтів API по всьому світу, які зможуть активувати цю опцію для деяких моделей за бажанням. Проте за замовчуванням у API ця функція залишатиметься вимкненою.
Варто відзначити, що OpenAI не планує автоматично запускати водяні знаки у Великобританії та інших регіонах за межами ЄС. Компанія наразі не оголосила конкретних планів щодо розширення доступності цієї функції у майбутньому.
Порівняння підходів OpenAI та Anthropic
OpenAI не є першою компанією, що вводить подібну технологію. Розробник Claude, Anthropic, уже застосовує водяні знаки для своїх моделей по всьому світу, оскільки наразі не має можливості обмежувати функцію за географією. Проте це не означає, що всі старі моделі Claude підтримують цю технологію.
OpenAI ж обрала більш регіональний підхід, що дозволяє збирати відгуки і досвід на реальних прикладах, перш ніж розгортати функцію повсюдно.
Як працює технологія textGrain
В основі механізму лежить технологія textGrain, яка вбудовує статистичний сигнал у вибір слів моделі. Спеціальний детектор розпізнає цей шаблон і визначає, чи містить текст водяний знак OpenAI.
- За результатами тестів, textGrain перевищує або дорівнює іншим методам, як-от SynthID.
- Однак ефективність залежить від довжини, тематики тексту та рівня редагування.
Наприклад, при рівні хибнопозитивних спрацьовувань у 1% детектор знаходив водяний знак у приблизно 80% 200-токенних текстів на психологічні теми, а для 400-токенних цей показник зростав до 95%.
З іншого боку, у математичних текстах розпізнавання було значно гіршим через обмежений вибір слів. Крім того, редагування знижує ефективність сигнатури: заміна 10% слів на синоніми знизила розпізнавання з 92% до 66%, а 25% замін – лише до 17%.
Обмеження і особливості водяних знаків
Наявність водяного знака свідчить, що текст або його частину було створено або оброблено моделлю OpenAI. Проте це не встановлює, скільки внеску внесла людина.
OpenAI наголошує, що:
- Водяний знак не є індикатором авторства або частки людського впливу.
- Він не ідентифікує користувача, аккаунт, запит чи розмову, з якої згенеровано текст.
- Водяний знак не гарантує достовірність чи повноту інформації.
Негативний результат детектора не виключає можливості походження тексту від OpenAI, адже короткі, відредаговані або перекладені тексти, а також тексти, створені моделями без підтримки водяних знаків, можуть залишитись непоміченими.
Доступ до інструментів детекції та майбутні плани
На момент запуску детектор водяних знаків не буде публічно доступним. Його зможуть використовувати лише затверджені науковці та організації-експерти за індивідуальним погодженням. Це пов’язано з ризиком помилкових позитивних чи негативних результатів.
Водночас інструменти перевірки зображень і аудіо від OpenAI залишаться відкритими для широкої аудиторії.
Компанія вже приймає заявки на доступ до детектора від дослідників і фахівців, а також планує оприлюднити технологію водяних знаків як відкритий код. У найближчі тижні партнерські хмари почнуть підтримувати вивід моделей із подібними водяними знаками.
