Як новий невидимий водяний знак змінює AI-тексти у ЄС
У найближчі тижні користувачі ChatGPT та Codex у Європейському Союзі отримають тексти, які міститимуть невидимий водяний знак під назвою textGrain. Цей знак не має аніяких банерів чи попереджень і абсолютно непомітний для ока, адже він захований у статистичних патернах вибору слів, які генерує модель.
Введення цієї технології напряму пов’язане з вимогами прозорості згідно з європейським законодавством про штучний інтелект (EU AI Act). Але OpenAI не єдині, хто впроваджує подібне. Компанія Anthropic анонсувала власний водяний знак для моделі Claude, базований на схожому підході, який розробив Google DeepMind із методом SynthID.
Як саме працює textGrain
Ідея полягає у тому, що штучний інтелект злегка коригує вибір слів або їх частин у тексті. Завдяки цьому, на достатньо довгому фрагменті виникає унікальний статистичний “відбиток”, який може розпізнати спеціальний детектор.
Розробники підкреслюють, що «водяний знак — це частина самого тексту і нічим не видимий для читачів». Станом на зараз цей детектор доступний лише для схвалених науковців і експертних організацій за індивідуальним запитом. Відкритого публічного інструменту для автоматичної перевірки наразі немає через ризики помилкових спрацьовувань, які можуть завдати серйозної шкоди.
Кого стосується розгортання textGrain і як він впливає
Розгортання технології має різні наслідки для різних категорій користувачів:
- Користувачі ChatGPT і Codex у ЄС отримують тексти з прихованим сигналом походження без жодних візуальних індикаторів.
- Розробники, які працюють з API по всьому світу, можуть за бажанням увімкнути водяний знак для певних моделей, щоб краще інформувати про AI-генерований контент у своїх додатках.
- Науковці та фахівці мають можливість подати заявку на доступ до детектора, однак це лишається суворо контрольованим ресурсом.
- Освітяни, роботодавці, видавці повинні розглядати позитивний результат виявлення як одну з багатьох підказок, а не остаточний вердикт щодо авторства або порушень.
Що варто знати про обмеження textGrain
OpenAI відкрито визнає, що ефективність виявлення залежить від довжини тексту і контексту. За даними незалежного огляду unite.ai, точність складає близько 80% для текстів обсягом 200 токенів і піднімається до 95% для 400 токенів при 1% рівні хибнопозитивних спрацьовувань.
Проте ця ефективність не універсальна:
- Замінюючи приблизно 10% слів синонімами, точність для 400-токенівного тексту падає з 92% до 66%.
- Якщо замінити четверту частину слів, то достовірність визначення водяного знака опускається до 17%.
- Водяний знак не може перевірити достовірність змісту, визначити автора чи ступінь редагування людиною.
Тож відсутність позитивного результату не є доказом людського написання, а наявність — тільки сигналом, що текст міг бути згенерований або оброблений системами OpenAI.
Ширший контекст і розвиток технології
Аналогічні кроки робить і Anthropic із їхньою моделлю Claude. Втім, обидва водяні знаки вимагають окремих детекторів, тож сьогодні не існує універсального інструменту для перевірки текстів на штучне походження.
Важливо сприймати результати водяних знаків як один із багатьох доказів — не як однозначне свідчення. Технологія textGrain є кроком уперед у питанні прозорості AI-контенту, проте далеко не останнім словом у цій сфері.
