Anthropic запроваджує «водяний знак» текстів від свого чатбота Claude: що потрібно знати
Нещодавно Anthropic, розробник популярного ШІ-чатбота Claude, представив нову систему маркування текстів, створених штучним інтелектом. Компанія детально пояснила, як працюватиме цей «водяний знак», чи можна його приховати та який вплив це матиме на код, що генерується ШІ. Оновлення викликало жваве обговорення серед користувачів, адже воно пов’язане з вимогами Євросоюзу щодо прозорості в галузі штучного інтелекту.
Навіщо Anthropic вводить маркування текстів?
Згідно з новими нормами ЄС — AI Act — компанії мають робити так, щоб штучно створений контент можна було ідентифікувати. Anthropic вирішила впровадити технологію, яка залишатиме унікальний рівень маркування у відповідях чатбота Claude. Користувачі неоднозначно відреагували на цю ідею.
- Деякі висловили занепокоєння, вважаючи це порушенням приватності чи несправедливим обмеженням.
- Інші ж аргументують, що це допоможе уникати обману і неправдивої інформації.
- Згідно з повідомленнями Business Insider, деякі користувачі навіть скасували підписки на Claude через цю новину.
Як працює «водяний знак» у текстах Claude?
Anthropic роз’яснила, що ця технологія не помітна для звичайного читача — корисність відповіді або її природність взагалі не змінюються. Принцип полягає у виборі «низькорівневих альтернатив» — наприклад, замість слова «пасмурно» можна вибрати «сіре» для опису погоди. Саме ці малопомітні патерни кодуються і можуть бути розпізнані за допомогою спеціального ключа.
Компанія планує використовувати метод SynthID-Text, розроблений командою Google DeepMind у 2024 році, який забезпечить високу надійність маркування. Водночас планується створення API для виявлення таких водяних знаків.
Чим маркування відрізняється від інших способів розпізнавання ШІ-текстів?
Існують алгоритми, що відстежують певні патерни у стилі написання, натякаючи на те, що текст створений штучним інтелектом. Однак Anthropic підкреслює: це далеко не те саме, що й маркування. Перевірка водяного знаку базується на криптографічному коді, а не на стилістичних «підказках» у тексті.
Чи можна обійти «водяний знак» редагуванням?
Anthropic пояснює, що легке редагування навряд чи зітре маркування повністю. Проте, повне переписування тексту з заміною кожного слова цілком здатне «знешкодити» позначку. При цьому компанія зауважує: якщо текст переписано так кардинально, то його вже складно назвати твором штучного інтелекту.
Якщо ж Claude лише підправляв або підвищував якість тексту, залежно від обсягу роботи, водяний знак може бути слабко вираженим або зовсім відсутнім – зважаючи на те, що більшість контенту залишається авторським.
Що з маркуванням у коді?
Генерація коду – тонка справа, адже код має працювати правильно, тож вибір між кількома синонімічними командами обмежений. Через це можливості для «накладання водяного знаку» тут менші.
- У випадках, коли можна обрати між різними словами, наприклад, у коментарях, маркування може бути застосоване.
- Однак його вплив на сам код буде майже непомітним.
Хто ще планує впроваджувати такі технології?
Anthropic наголосила, що Claude не стане єдиним чатботом, який застосовує водяні знаки у відповідях. Інші великі розробники штучного інтелекту підписали ту ж саму Кодекс практики і готуються ввести власні системи маркування, щоб відповідати вимогам прозорості.
Покупки за посиланнями в наших статтях можуть приносити невеликий дохід, не впливаючи на редакційну незалежність.
