OpenAI впроваджує невидимі водяні знаки в тексти, створені ШІ, аби убезпечити контент
Підробляти тексти ІІ, видаючи їх за свої, скоро стане значно складніше — щонайменше для користувачів у Європейському Союзі. Компанія OpenAI повідомила про запуск невидимого водяного знаку, котрий непомітний для людського ока, але розпізнається спеціальним програмним забезпеченням. Ця технологія застосовуватиметься до всіх текстів, створених ними за допомогою штучного інтелекту, зокрема ChatGPT та агента з написання коду Codex.
Що таке водяний знак і як він працюватиме?
Водяний знак — це спеціальна цифрова позначка, яка вбудовується в текст AI без видимих змін для звичайного користувача. Основна мета – відповідність новим вимогам Євросоюзу, закріпленим в AI Act. Цей закон зобов’язує маркувати всі тексти, створені штучним інтелектом, щоб можна було легко виявити їх походження за допомогою машини.
Як це працюватиме:
- Спочатку водяний знак буде опційною функцією: будь-хто зможе ввімкнути або вимкнути його;
- Для користувачів у ЄС включення цієї позначки стане обов’язковим протягом найближчих тижнів;
- Позначка розпізнаватиметься тільки спеціальними сканерами, не заважатиме читабельності тексту.
Хто зможе визначати тексти, позначені водяним знаком?
OpenAI надасть дозвіл на використання інструментів для виявлення водяного знаку тільки профільним дослідникам та експертним організаціям. Публічний доступ не планується через ризик помилкових спрацьовувань. Замість цього кожен запит на детекцію розглядатиметься окремо, щоб гарантувати точність результатів.
Інші компанії вже йдуть цим шляхом
OpenAI не перша, хто бере курс на водяні знаки в текстах, створених ШІ. В серпні минулого року компанія Anthropic презентувала схожу технологію, що одразу викликала спроби обходу маркування. Google DeepMind вже кілька років позначає свої розробки водяними знаками, проте нещодавно Google анонсувала можливість видаляти ці позначки з контенту, де вони не є обов’язковими.
Порівняння підходів
- Anthropic: водяні знаки, що викликали інтерес до способів їх обходу;
- Google DeepMind: багаторічне використання маркування з можливістю деактивації там, де це не вимагається;
- OpenAI: плавне введення з опцією вибору користувачів та обов’язкова активація для ЄС.
Чому в США досі немає подібних вимог?
Попри те, що занепокоєння щодо поширення текстів, згенерованих ШІ, зростає, США не мають національного закону, який би зобов’язував використовувати водяні знаки. Останні опитування демонструють, що більшість американців підтримують ідею обов’язкового маркування контенту, створеного штучним інтелектом:
- 82% демократів;
- 75% республіканців;
- загалом майже 80% населення.
Та поки немає законодавчого механізму, не варто очікувати, що компанії, як OpenAI, ввімкнуть водяні знаки для користувачів у США.
Регулювання як інструмент контролю
Наявність вимог із боку законів, таких як AI Act у ЄС, змушує компанії вживати заходів для ідентифікації контенту, створеного штучним інтелектом. Без чітких правил користувачі і платформи залишаються без надійних способів визначати достовірність текстів. Впровадження нових стандартів стає ключовим кроком до прозорості і безпеки у цифровому просторі.
