Як працюють люди, що покращують ChatGPT: правда про вашу особисту інформацію
Люди, які допомагають вдосконалювати штучний інтелект, можуть стикатися із значно більшою кількістю особистих даних, ніж користувачі очікують — від проблем зі здоров’ям до інтимних життєвих ситуацій.
Хто і як перевіряє ваші діалоги з ChatGPT?
У OpenAI працюють сотні фрілансерів, чиї задачі – аналізувати величезний потік запитів справжніх користувачів ChatGPT. Ці діалоги часом містять дуже приватну інформацію: від проблем зі здоров’ям до особистих переживань та навіть цілі обговорення між людиною та ботом.
Більшість із понад 900 мільйонів користувачів навряд чи здогадуються, що їх розмови можуть переглядати живі люди.
Джерело: 404media.co
Робота рецензентів полягає у вивченні відповідей чат-бота, оцінці їх якості та виявленні недоліків. Завдяки цьому OpenAI намагається удосконалити ChatGPT так, щоб він давав більш точні та релевантні відповіді.
Чому людей залучають до перевірки відповідей ChatGPT?
Персонал навчають дотримуватися кількох важливих правил:
- Не дозволяти боту видавати себе за людину.
- Зменшувати надмірну схильність ChatGPT погоджуватися з користувачем.
- Уникати занадто «пестливих» або лестливих відповідей.
Версія 4.0 усе ще стикалася з проблемою, що модель надто легко підхоплювала настрій користувача, що навіть призводило до кількох судових позовів, пов’язаних із трагічними наслідками серед користувачів.
Ризики для приватності
Залучення людей до аналізу розмов піднімає серйозні питання конфіденційності. Адже багато хто бачить у ChatGPT психолога, помічника або просто друга, тому відкривається й розповідає найособистіше — проблеми із здоров’ям, сімейні негаразди, робочі питання.
Хоч OpenAI і намагається видаляти особисті дані перед тим, як відправити діалоги на перевірку, компанія визнає, що чутлива інформація іноді все ж потрапляє до рук рецензентів.
Людський фактор у розвитку штучного інтелекту
Це руйнує уявлення про те, що модель навчається лише завдяки автоматичному збору величезних обсягів даних з інтернету, чи завдяки висококваліфікованим інженерам. Зовнішні фахівці у режимі живого часу читають тисячі запитів і оцінюють відповіді, допомагаючи поліпшити якість чат-бота.
Компанія Anthropic підтвердила, що теж залучає людський фактор до підвищення ефективності своїх моделей. Отже, аналіз реальних діалогів залишається найпоширенішим інструментом у тренуванні сучасних ШІ-систем.
«Ні, я не думаю, що користувачі ChatGPT уявляють, що десь є людина, яка аналізує їхні розмови.»
– Працівник, що працює з запитами
Тож навіть якщо платформи намагаються видаляти приватні дані, користувачам варто пам’ятати: їхні розмови з чат-ботами можуть бути переглянуті людьми, а не залишатися повністю конфіденційними.
