Як OpenAI впроваджує приховані водяні знаки в текстах ChatGPT в ЄС
OpenAI анонсувала нову технологію, яка дозволить непомітно «позначати» тексти, створені ChatGPT і Codex, в країнах Європейського Союзу. Цей крок має на меті відповідати вимогам Європейського союзу щодо ідентифікації штучно створеного контенту. Хоча ця функція з’явиться поступово й буде доступна лише для користувачів у ЄС, розробники за межами Європи зможуть активувати її через API за бажанням.
Що варто знати про водяний знак в текстах AI
- Запуск функції торкнеться всіх планів ChatGPT і Codex в ЄС, зберігаючи опцію увімкнення для користувачів API.
- Заміна 25% слів на синоніми знижує ймовірність виявлення водяного знака майже до 17%.
- Доступ до детектора обмежений і надається лише затвердженим науковцям і фахівцям.
Як працює технологія TextGrain?
OpenAI використовує метод TextGrain, який не ставить на тексті ніяких помітних символів. Натомість, цей спосіб впливає на вибір слів нейромережею, створюючи унікальний статистичний шаблон, який виявляє спеціальний детектор. Це дозволяє ідентифікувати текст, навіть якщо його скопіювати або трохи відредагувати.
За словами розробників, TextGrain показує кращі результати у порівнянні з іншими методами, зокрема з Google’s SynthID. Компанія планує оприлюднити цю технологію у вигляді відкритого програмного забезпечення, щоб підтримати прозорість і розвиток у сфері боротьби з неправдивим контентом.
Обмеження технології розпізнавання
Роспізнавання водяного знака ускладнюється, якщо в тексті змінювати слова на синоніми. В тестах, заміна десяти відсотків лексики знизила виявлення з 92% до 66%, а 25% замін взагалі опустили шанси виявлення до 17%. Особливо складно відстежити короткі уривки, відповіді з математики або текст, який пройшов переклад.
За оцінками експертів, виявлення працює на рівні близько 80% для текстів завдовжки близько 200 слів на різних темах, наприклад, психології, при відносно низькій кількості хибних спрацьовувань (приблизно 1%).
Хто матиме доступ до детектора?
Наразі OpenAI надає доступ до інструментів виявлення водяних знаків лише обмеженому колу затверджених наукових дослідників та профільних організацій. Це пов’язано з ризиком пропуску деяких відміток та виникнення хибних позитивних результатів.
Важливо розуміти, що відсутність водяного знака не гарантує, що текст створив людина. Крім того, цей знак не розкриває інформацію про конкретного користувача, акаунт або запит, який призвів до генерування тексту.
Контекст та наступні кроки
Впровадження водяних знаків відбувається після схожого рішення компанії Anthropic, яка з серпня почала маркувати тексти створені AI Claude. Реакція користувачів на це рішення була неоднозначною. Раніше OpenAI вже розробляла подібні технології, проте відкладав їхнє впровадження через побоювання втрати частини аудиторії на користь конкурентів.
Крім OpenAI та Anthropic, великі гравці індустрії, такі як Google, Meta і Microsoft, також підтримують кодекс поведінки ЄС щодо контенту, згенерованого штучним інтелектом, що підкреслює важливість прозорості та відповідальності в цій сфері.
