OpenAI наймає людей для читання чатів ChatGPT — що це означає для твоєї конфіденційності?
Якщо ти коли-небудь відчував бажання поділитися своїми думками з ChatGPT, знай — твої слова можуть мати живу аудиторію. Нещодавнє розслідування показало, що OpenAI активно шукає сотні співробітників, які будуть переглядати та оцінювати користувацькі повідомлення, навіть якщо вони містять делікатну особисту інформацію.
Для чого людський контроль над чатами ChatGPT?
Ця практика не пов’язана з модеруванням, як можна було б подумати спочатку. Головна мета – покращити якість відповідей штучного інтелекту. Співробітники-коментатори оцінюють реакції ChatGPT, допомагаючи системі уникати:
- надмірного ототожнення себе з людиною;
- підлещування користувачу, яке часто критикують через його роль у виникненні “штучної психозності”.
Саме такі риси часто стають причиною тривожних випадків, коли штучний інтелект ненавмисно підштовхує користувачів до деструктивної поведінки, а навіть відомі судові позови звинувачують попередні версії ChatGPT у подібних трагедіях.
Проект “Лілія” і питання приватності
Такий контроль за чатами проходить у рамках операції, відомої як “Проект Лілія”. Інформація про цей процес викликає занепокоєння, адже більшість користувачів навіть не підозрюють, що їхні повідомлення можуть читати живі люди:
- Співробітник, опитанний журналістами, зауважив, що користувачі не уявляють, що їхні бесіди аналізують.
- Під час перегляду іноді трапляються повідомлення з проханням зберегти конфіденційність, але все одно вони потрапляють до аналізу.
- Обрані для перегляду діалоги анонімізуються, але можуть містити особисту інформацію, наприклад, про місце проживання.
OpenAI стверджує, що використовує спеціальний фільтр приватності, котрий не завжди працює бездоганно, залишаючи шанс на витік деяких даних.
З якого дива це приховували?
Здавалося би, що інформація про людський перегляд чатів повинна бути відкритою для користувачів. Однак у відповідь на запит журналістів OpenAI уникала прямої відповіді про те, чи відомо користувачам про цей аспект. Лише після публікації матеріалу компанія вказала на офіційну сторінку, де зазначено, що люди можуть бачити повідомлення для покращення роботи моделі. За замовчуванням ця опція ввімкнена, але її можна вимкнути в налаштуваннях.
Що говорять експерти?
Професійні аналітики наголошують, що:
- Людський контроль має велике значення для безпеки штучного інтелекту.
- Втім, інтерфейс чат-бота створює ілюзію приватності та інтимності, що вводить користувача в оману.
- На відміну від публікацій у соцмережах, де користувачі звикли до відкритості та модерації, тут передбачати, що хтось буде читати розмови, — неочевидно.
Як OpenAI намагається зробити відповіді природнішими?
Внутрішні документи показують, що співробітники навіть відзначають приклади “машинної мови” і надмірного використання емодзі, які можуть видавати штучний інтелект. Наприклад:
- Допустимо, використовувати емодзі дерева під час обговорення Дня дерев,
- але ставити емодзі черепа при розмовах про смерть чи літака при аварії — не рекомендують.
Це лише маленька частина більшої роботи над тим, щоб відповіді бота звучали органічніше та доречніше.
Ще трохи про технічні нюанси
При цьому рецензенти не зобов’язані перевіряти факти, адже відповідальність за достовірність перекладена на інші команди в OpenAI. Також варто врахувати, що певні частини проєкту лишаються в режимі закритого доступу, і не всі деталі оприлюднені.
Останні події вкотре нагадують, що штучний інтелект — це не просто машина, а складна система, яка вимагає пильного і ретельного нагляду з багатьох боків.
