OpenAI звільняє працівників, які користувалися штучним інтелектом під час оцінки ChatGPT
Що сталося з працівниками OpenAI?
OpenAI залучає велику кількість зовнішніх фахівців для вдосконалення відповідей ChatGPT. Однак, як повідомляє 404 Media, деяких із них звільнили після того, як виявили, що ці працівники використовували штучний інтелект для виконання власних завдань з перевірки чат-бота.
Згідно з оприлюдненими внутрішніми документами, у різних проектах брали участь понад 10 тисяч підрядників. Їм було строго заборонено застосовувати будь-які інструменти на основі ШІ, у тому числі Grammarly та AI-перекладачі, під час оцінювання відповідей робота.
У правилах чітко було вказано:
- Не користуйтеся засобами виявлення ШІ або самим ШІ.
- Уникайте використання GPTZero чи подібних інструментів, адже вони ненадійні.
- Заборонено використовувати ШІ навіть для написання відгуків чи коментарів.
Працівників навчали знаходити ознаки штучного інтелекту у текстах, такі як повторювані формулювання, специфічна пунктуація (наприклад, надмірне застосування тире) та надто швидке створення відповідей.
Загальна атмосфера серед фахівців
Один із підрядників зазначив, що використання ШІ було доволі поширеним явищем. Вони вказали, що “з тисяч працівників багато було викрито на такій практиці”. У чатах для обговорень колеги часто обмінюються прикладами текстів і спільно визначають, чи створені вони штучним інтелектом.
Детальніше про проєкт та робочі процеси
Раніше 404 Media розповідав про Project Lily — ініціативу OpenAI, яка залучає сотні підрядників для аналізу реальних запитів користувачів ChatGPT та їхніх відповідей, серед яких трапляються й особисті дані.
Основне завдання цих фахівців — оцінювати якість відповідей штучного інтелекту. Причому оцінювати треба так, аби відповіді не були надмірно підлизацькими або не надавали занадто людські риси чат-боту.
Цікаво, що існує ризик “зниження якості моделі” через те, що ШІ навчається на текстах, створених іншим ШІ. Такий процес може призводити до накопичення помилок і появи шаблонних фраз у відповіді.
Обговорення у спільнотах
Підрядники активно спілкуються у спеціальних каналах Slack, де діляться прикладами і запитують думку колег, чи є цей текст продуктом штучного інтелекту. Відповіді зазвичай підтверджують такі підозри.
Що роблять компанії для контролю?
Представники Mercor, агентства, що займається тренуванням штучного інтелекту для OpenAI, заявили, що контроль за дотриманням правил суворий і частина внутрішніх процедур. За словами спікера, експертів підбирають саме за професіоналізм і вміння, адже це критично для розвитку машинного навчання.
У контрактах підрядників чітко прописано заборону застосовувати великі мовні моделі для виконання робіт, і у разі порушень людей одразу вилучають із проектів.
OpenAI поки не коментує випадки звільнень через використання ШІ.
Один із фахівців, який був звільнений, відкрито розповів про свій досвід: “Я не поганий працівник, просто часом хотів отримати маленьку допомогу від ШІ, що зрештою й призвело до мого звільнення.”
Де дізнатися більше про тему?
Ця історія — лише частина ширшої дискусії про вплив штучного інтелекту на роботу, контроль і довіру у технологічній сфері. Варто звернути увагу на такі аспекти:
- Судові позови проти OpenAI та Microsoft у контексті випадків, коли ChatGPT нібито спричинив сумні події.
- Суперечки довкола змін у ChatGPT, які викликали побоювання щодо переваг для окремих користувачів.
- Попередження експертів про те, що наслідки впровадження ШІ у робочу сферу можуть суттєво вплинути на працівників.
Підписуйтесь на безкоштовні розсилки з порадами та цікавими новинами, щоб не пропустити найактуальніші історії у світі технологій.
