OpenAI звільняє співробітників через використання ШІ для перевірки ChatGPT
OpenAI потрапила у досить курйозну ситуацію, коли власна розробка стала причиною проблем. За інформацією 404 Media, деякі підрядники компанії, які мали оцінювати відповіді ChatGPT на предмет точності, були звільнені через використання штучного інтелекту для виконання своїх завдань.
Роль підрядників у контролі якості
OpenAI має тисячі фрілансерів, що ретельно перевіряють запити користувачів і відповіді від ChatGPT. Їхня робота полягає у тому, щоб:
- оцінювати правильність інформації;
- запобігати надмірній лояльності чатбота;
- стежити за якістю взаємодій, що можуть містити чутливі дані.
Робота досить рутинна і, ймовірно, не вважається надто високооплачуваною, що дуже спокушає використовувати штучний інтелект для прискорення процесу. Саме цим і займалися деякі працівники — замість ручної перевірки вони просто передавали інформацію в інший ШІ.
Чому OpenAI забороняє застосування ШІ підрядниками?
Компанія вимагає, щоб працівники не використовували штучний інтелект ні для редагування, ні для перевірки. За словами одного з документів, які отримали журналісти 404 Media:
«Не використовуйте AI-інструменти для детекції штучного інтелекту або самого ШІ. Не застосовуйте GPTZero чи інші подібні сервіси — вони ненадійні. Рецензенти не можуть використовувати навіть Grammarly або інші AI-сервіси для написання зворотного зв’язку або коментарів.»
Один зі звільнених підрядників зазначив, що використання подібних інструментів — це швидкий шлях до втрати роботи.
Ризик “зворотного зв’язку” між ШІ
Пояснення політики OpenAI можна зрозуміти, адже довіряти одному штучному інтелекту перевірку іншого — ризиковано. Якщо модель почне вчитися на матеріалах, створених іншим ШІ, можливо виникне так званий колапс моделі. Це коли система деградує через накопичення «синтетичних» даних, а не реального людського контенту.
Про це свідчить і дослідження 2024 року, опубліковане в Nature, де вказується, що:
- бездумне використання генеративного контенту під час тренування викликає незворотні пошкодження моделей;
- це негативно позначається на роботі системи;
- уникаючи цього, компанії намагаються зберегти довгострокову стабільність ШІ.
Парадокс ситуації та реакції компанії
Цікаво, що засновник OpenAI, Сем Альтман, неодноразово говорив про те, що штучний інтелект забирає робочі місця, і його місія — «допомагати руйнувати робочі позиції». Але коли його підрядники починають користуватися ШІ, щоб полегшити свої обов’язки, компанія ніби каже: «Стоп, не так!»
Редакція Gizmodo вже звернулась до OpenAI за коментарями стосовно звільнень, але поки що відповіді не отримала.
