Чи справді ваші бесіди з ChatGPT залишаються конфіденційними?
Нові деталі про те, як OpenAI використовує розмови ChatGPT у роботу по вдосконаленню моделей, викликали неабияке занепокоєння щодо приватності. Згідно з витоками внутрішніх документів, опублікованих 404 Media, деякі діалоги користувачів переглядають живі люди-контракти. Це означає, що ваші бесіди можуть аналізуватися не лише штучним інтелектом, а й реальними працівниками.
Що таке «Проєкт Лілі» і як він працює
Під кодовою назвою «Проєкт Лілі» команда оглядачів отримує тексти розмов, щоб оцінити якість відповідей штучного інтелекту, виокремити наміри користувачів і позначити потенційно неприродні чи надмірно згодливі відповіді. Ось ключові моменти роботи перевіряльників:
- Вони ставлять оцінки відповідям ChatGPT за шкалою від 1 до 7;
- Уважно видаляють штампи «штучної мови» та лукавства;
- Виключають зайві емодзі, наприклад, надмірно великі списки з зеленими галочками.
Перед тим, як текст надійде до людини, OpenAI автоматично обробляє його через фільтр приватності, який має прибирати будь-які ідентифікатори користувачів. Однак навіть ця система не завжди здатна затримати рідкісні або неочевидні деталі.
Правда про анонімність і перегляд розмов
Попри те, що імена змінюють, виконавці можуть бачити резюме попередніх інтересів користувача, а також приблизне місцезнаходження. Один із підрядників поділився, що більшість користувачів навіть не уявляють, що хтось сторонній читає їхні повідомлення. Це викликає природне питання про те, наскільки важливо повідомляти користувачам про таку практику прямо у момент спілкування.
Зони ризику для приватності в світі ШІ
Викриття цієї інформації активізує дебати щодо правил регулювання і захисту персональних даних в епоху штучного інтелекту. Європейський суд справедливості нещодавно підкреслив, що користувачів необхідно інформувати про обробку їхніх даних саме під час збору – незалежно від того, чи може отримувач цих даних ідентифікувати особу.
До того ж OpenAI вже отримала штраф у 15 мільйонів євро від італійських регуляторів за обробку даних без належної правової бази. За умовчанням у безкоштовних і платних акаунтах (Free, Plus і Pro) увімкнено функцію спільної роботи даних для поліпшення моделей, тоді як корпоративні акаунти Enterprise, Business та Edu зазвичай виключені із такої практики.
Особливості конфіденційності у розмовному ШІ
Чатботи відрізняються від звичайних програм тим, що імітують людську емпатію. Це створює ілюзію безпосереднього спілкування з живою людиною, через що користувачі звично розкривають набагато більше інформації, ніж у звичайних пошукових системах чи формах.
- Через це з’являється «слепа зона» для приватності, де навіть неочевидно, які деталі можуть оброблятися далі;
- Різні типи акаунтів мають різні налаштування обробки даних, що важливо враховувати для безпеки;
- Вимкнення опції удосконалення моделей має силу лише на майбутні діалоги і не стосується вже зібраної інформації.
Що варто пам’ятати користувачам і бізнесу
OpenAI не єдина в цій практиці: конкуренти Anthropic і Google Gemini теж залучають людей для оптимізації чатів, але часто не попереджають користувачів так чітко, як слід було б.
Тож ось кілька порад, щоб зберегти вашу інформацію в безпеці:
- Не вставляйте паролі, фінансові дані, медичні або конфіденційні корпоративні відомості у споживчі ШІ-сервіси без повного розуміння політики конфіденційності;
- Перевірте власні налаштування опції навчання моделей, щоб контролювати, як ваші дані використовуються;
- Якщо ви використовуєте ШІ на роботі, краще користуйтесь офіційними продуктами, затвердженими організацією, що гарантують безпечну обробку чутливої інформації.
Нове у світі ШІ
До речі, голова Anthropic Даріо Амодей закликав уповільнити розвиток передових систем штучного інтелекту. Цю ініціативу підтримали і такі відомі фігури, як Сем Альтман і Ілон Маск, підкреслюючи, що безпека і кіберзахист залишаються надзвичайно важливими темами для майбутнього усіх технологій.
