Що приховує ChatGPT: як людині читають ваші особисті повідомлення
Увімкнувши ChatGPT, більшість користувачів вводять свої найпотаємніші думки — іноді навіть те, що ніколи б не сказали вголос. Вони впевнені, що ці дані просто зникнуть у віртуальному небутті, десь на серверах. Проте це не зовсім так, як розповідає 404 Media.
Проект Lily: коли люди читають ваші запити
Виявляється, внутрішня програма OpenAI під назвою Project Lily передає реальні запити користувачів живим підрядникам. Їх завдання — прочитати ваш запит, сформулювати короткий виклад наміру та оцінити відповіді ChatGPT за шкалою від 1 до 7 балів.
Важливо знати, що налаштування відмови від цього процесу вмикається за замовчуванням для безкоштовних, Plus і Pro акаунтів. Але навіть якщо ви вимкнете опцію зараз, раніше надіслані повідомлення все одно можуть опинитися на розгляді, кажуть у 404 Media. Коли журналісти запитали OpenAI, чи було це чітко заявлено, компанія відповіла ухильно.
Як відбувається оцінка і що важливо під час перевірки
За інформацією з інструкцій для підрядників, робота виглядає доволі систематизованою:
- Крок 1: Прочитати оригінальний запит користувача.
- Крок 2: Написати короткий виклад мети, яку ставить юзер.
- Крок 3: Оцінити кілька відповідей від ChatGPT, звертаючи увагу на такі параметри, як:
- Менше лестивості;
- Обмежене використання емодзі;
- Відсутність штучної “мови AI”;
- Більш стримана і професійна манера.
Це схоже на редакторський контроль якості, але з вашими особистими зверненнями як сировиною. Один із підрядників розповів, що за таку роботу платять понад 50 доларів на годину. Хоча не відомо, яку конкретно модель тренують у Project Lily, графік та масштаби залишаються невизначеними.
Фільтр приватності, який не є бездоганним
OpenAI стверджує, що перш ніж дані доходять до людей, їх проходить через так званий фільтр приватності. На перший погляд, це має застерігати від витоку делікатної інформації. Проте компанія сама визнає, що цей захист може пропускати незвичайні ідентифікатори та неоднозначні приватні дані.
Це означає, що якщо ви надіслали медичний, фінансовий або інший особистий запит, він, ймовірно, був розглянутий живою людиною. Такий фільтр – скоріше застереження, ніж надійний щит.
Чому інформація про огляд не отримує гучного оголошення
Така практика – не ексклюзив OpenAI, адже інші компанії теж залучають людей для покращення моделей. Наприклад, Anthropic відкрито говорить про це. Google вказує в правилах, що деякі чати оглядають люди для покращення AI.
Натомість користувачі OpenAI дізналися про це лише через витік документів. Ця різниця в підходах до прозорості великою мірою визначає довіру.
Що варто знати про можливість відмовитися
Опція «Поліпшити модель для всіх» є за замовчуванням і активна для нових розмов. Якщо її вимкнути, це не вплине на вже надіслані повідомлення: вони залишаться «під прицілом» підрядників. Для мільйонів користувачів, що використовують ChatGPT як особистий щоденник, це не дрібниця.
Щоб змінити ситуацію, достатньо зробити основною опцію не «автоматично брати участь», а навпаки — за замовчуванням виключеною. Крім того, інформацію про людський огляд слід подавати зрозуміло і на самому початку, а не ховати серед складних політик. І, звісно, потрібно вдосконалити фільтр приватності, щоб OpenAI міг чітко гарантувати безпеку даних.
