Відкриття OpenAI: Як штучний інтелект завадив працівникам і що відбувається далі
Компанія OpenAI залучає величезну кількість людей для покращення відповідей ChatGPT. Проте останні розслідування 404 Media викрили цікаву ситуацію: деяких працівників звільнили за те, що вони самі користувалися штучним інтелектом для виконання роботи, яку мали перевіряти.
Що сталося?
Згідно з даними 404 Media, кількох підрядників OpenAI звільнили або виключили із проєктів, бо ті застосовували інструменти штучного інтелекту під час оцінювання та перевірки відповідей чатбота.
Видання посилається на внутрішні документи, де йдеться, що у деяких проєктах брали участь понад 10 000 людей.
В документах була чітка заборона:
- Не використовувати інструменти для виявлення штучного інтелекту.
- Уникати застосування AI, включно з Grammarly або автоматичним перекладом, під час оцінювання, написання фідбеку чи коментарів.
Три працівники розповіли журналістам, що їх навчають розпізнавати ознаки роботи AI. Наприклад, це можуть бути повтори в формулюваннях, характерні розділові знаки — особливо надмірне використання тире, а також надто швидке виконання завдань.
Один із звільнених підрядників згодився, що застосування штучного інтелекту серед колег доволі поширене, адже «у великій групі завжди можна знайти тих, кого спіймали».
Детальніше про контекст
У окремому матеріалі 404 Media розповідає про проєкт Lily, де сотні підрядників переглядають реальні запити користувачів ChatGPT і їхні діалоги, які часом містять особисту інформацію.
Основне завдання – оцінити відповіді чатбота, перевірити, щоб вони не виглядали надто лестощами чи не прирівнювали ChatGPT до людини.
Існує також серйозна небезпека «розвалу моделі». Це коли штучний інтелект навчається на текстах, які сам був створений іншими AI — це може призвести до погіршення якості, поширення помилок і стандартних «нудних» шаблонів.
Один з підрядників поділився, що учасники команд у Slack каналах часто діляться прикладами і обговорюють, чи це текст, створений штучним інтелектом.
«Зазвичай відповідь — так», — зазначив він.
Що наразі робиться?
Компанія Mercor, яка також залучена у навчанні AI, запевняє, що суворий контроль вже введено у практику.
Їхній представник сказав 404 Media:
- «Наших експертів наймають через їхній досвід та професіоналізм, і це критично для розвитку штучного інтелекту».
- «У договорах категорично заборонено використовувати великі мовні моделі (LLM) для виконання завдань, і ми стежимо за дотриманням цих правил».
- «Якщо ми виявляємо порушення, одразу видаляємо працівника з проєкту».
OpenAI офіційно не прокоментувала звинувачення, що частина працівників була звільнена саме через застосування AI в роботі.
Один з підрядників, що пережив таку ситуацію, чесно зізнався:
«Я не погана людина або працівник. Просто мені потрібна була невелика підмога, і я звернувся до AI, але це стало моїм крахом».
Де дізнатися більше?
Цей конфлікт щодо тренування штучного інтелекту є частиною великої історії про працю, контроль і довіру в індустрії ШІ. Внаслідок поширення нових технологій постають складні юридичні, етичні й соціальні питання.
Варто звернути увагу на деякі пов’язані новини:
- OpenAI і Microsoft подали до суду через ймовірний зв’язок ChatGPT із трагічним випадком вбивства і суїциду.
- Реакція спільноти на неоднозначні зміни в ChatGPT, які підняли питання щодо необ’єктивності щодо різних користувачів.
- Попередження експертів про те, що вплив ШІ на ринок праці може бути лячним для багатьох працівників.
Підписуйтесь на безкоштовні розсилки, щоб отримувати прості поради та корисну інформацію про сучасні технології та їхній вплив на наше життя.
