OpenAI під ударом: хто насправді читає ваші розмови в ChatGPT?
Минулого місяця у США подали колективний позов проти компанії OpenAI, яка стоїть за популярним чат-ботом ChatGPT. Позивачі стверджують, що їхні приватні розмови перейшли до сторонніх підрядників без чіткої згоди на те. Судові документи були вручені компанії 2 вересня, і справу розглядають у Федеральному окружному суді Північної Каліфорнії.
Що таке Project Lily і чому це викликало хвилю обурення?
В основі позову лежить ініціатива OpenAI всередині компанії — Project Lily, інформацію про який розкрили журналісти 14 вересня. Згідно з позовом, сторонні виконавці, найняті через агентства тимчасової роботи, виконують ролі «рецензентів ШІ» та «оцінювачів чат-ботів». Їхнє завдання — читати реальні запити користувачів у ChatGPT, узагальнювати їхні наміри і потім виставляти оцінки відповідям моделі за шкалою від одного до семи.
Саме так працює система навчання чат-ботів: людські експерти перевіряють відповіді штучного інтелекту, а ці оцінки використовують, щоб покращувати модель за допомогою так званого RLHF (навчання з підкріпленням на основі людського зворотного зв’язку). Однак основна претензія полягає в тому, що користувачам ніколи чітко не повідомляли, що їхні діалоги можуть переглядати реальні люди, а не лише алгоритми.
Автоматичний фільтр і проблема з конфіденційністю
OpenAI стверджує, що всі розмови проходять через автоматизований фільтр до того, як їх побачить людина. Але, за висновками позову, ця система не завжди спрацьовує і особисті дані час від часу все ж потрапляють до підрядників.
404 Media розсекретило, що рецензенти працюють із панеллю керування, де доступний “загальний звіт про пам’ять користувача”. Він містить підсумки минулих бесід, через які можна дізнатися про місце проживання, професію чи особисте життя, навіть без імені користувача. OpenAI заявляє, що перевірки потрібні для боротьби з двома проблемами: першою — надмірною людиноподібністю чат-бота, другою — схильністю до “підлизування” (коли ШІ намагається догодити користувачеві, а не говорити правду).
Що пишуть користувачі і чому це має значення?
ChatGPT щотижня використовує понад 900 мільйонів людей, багато з яких довіряють сервісу дуже особисту інформацію. Ось що вони вводять у чат:
- питання про здоров’я;
- тексти для розриву стосунків;
- податкові запити;
- юридичні проблеми.
Водночас у політиці конфіденційності OpenAI йдеться про те, що певні категорії сторонніх компаній мають доступ до даних користувачів, але ніколи безпосередньо не згадується залучення підрядників для оцінки цих розмов.
Юридичні претензії проти OpenAI: що включає позов?
Позов містить вісім окремих звинувачень, серед яких:
- порушення Закону Каліфорнії про недобросовісну конкуренцію;
- порушення Закону про конфіденційність споживачів Каліфорнії (CCPA);
- порушення приватності за загальним правом, включно з порушенням недоторканності особистого життя.
Позивачі вимагають відшкодування збитків, повернення коштів, а також компенсацію моральної шкоди й штрафні санкції.
Що вимагають позивачі від OpenAI?
До суду подано прохання заборонити OpenAI використовувати зовнішній перегляд без явної згоди користувачів, а також впровадити такі умови:
- встановити за замовчуванням вимкнений режим “Покращення моделі для всіх”;
- додати чітке попередження про можливий перегляд у самому чаті;
- видалити матеріали, які прив’язані до переглянутих чатів, та перевчити моделі з урахуванням этих змін.
Відповідь OpenAI очікується до 13 жовтня.
