ChatGPT отримує невидимий водяний знак: як це змінить світ штучного інтелекту
Світ штучного інтелекту продовжує стрімко розвиватися, а нові функції з’являються майже щодня. Однією з останніх новинок стала технологія додавання невидимого водяного знаку до текстів, створених ChatGPT та Codex. Це нововведення спершу з’явиться у Європі, і має на меті робити штучно створені тексти більш помітними для автоматизованих систем, що допоможе розрізняти їх від матеріалів, написаних людьми.
Чому саме водяний знак для тексту?
Упродовж останніх років штучний інтелект дуже активно використовували для генерації текстів, які часто важко відрізнити від людських. Хоча існують інструменти для розпізнавання штучно створених зображень, відео чи аудіо, з текстом це було складніше. Водночас стандарти Євросоюзу змусили розробників впроваджувати способи ідентифікації технічних текстів.
- Водяний знак – це спеціальний, непомітний для ока сигнал, який вставляється в текст.
- Він базується на полі статистичних патернів у виборі слів.
- Детектори, які розпізнають цей сигнал, допомагають виявити, чи був текст створений штучним інтелектом.
Як саме працює водяний знак на текстах від ChatGPT?
Технологія, яку назвали textGrain, не змінює зміст, але впливає на вибір слів з певною ймовірністю. Це створює своєрідний «печатний слід», що сприймається детектором. Водночас, компанія OpenAI зазначає, що система не ідеальна – іноді трапляються помилки:
- може помилково виявити водяний знак, якщо його немає (хибнопозитивний результат);
- або навпаки, пропустити справжній знак у тексті (хибнонегативний результат);
- короткі фрагменти та тексти з редагуваннями роблять виявлення складнішим.
Також система не визначає долю людського внеску в текст чи його точність, а лише наявність маркування від штучного інтелекту.
Де і як запроваджуватимуть водяний знак?
Перш за все це стосується країни Європейського Союзу, бо там діє спеціальний закон про штучний інтелект, який зобов’язує ідентифікувати AI-контент у машиночитній формі. Протягом найближчих тижнів OpenAI почне автоматично наносити невидимий знак у тексти, створені в ЄС користувачами ChatGPT та Codex. Крім того, клієнти API по всьому світу отримують можливість добровільно підключити таку опцію для деяких моделей.
Водночас у OpenAI відкрили прийом заявок для дослідників і експертних організацій, які зможуть тестувати детектор водяних знаків та допомагати покращувати його роботу.
Що це означає для користувачів?
Відтепер будь-який текст, створений за допомогою ChatGPT у Європі, матиме невидиме маркування, що робить його впізнаваним для автоматизованих систем. Це означає, що важливо слідкувати за достовірністю інформації, уважно редагувати отримані тексти, адже короткі фрагменти або суттєві правки можуть впливати на ідентифікацію. Для глобального ринку ця технологія поки що залишається експериментальною, що дає змогу врахувати відгуки користувачів і вдосконалити систему.
