Як звільняють через використання ШІ в компанії, що розробляє штучний інтелект
Іронія ситуації полягає в тому, що кілька підрядників OpenAI, залучених до навчання моделей штучного інтелекту, були звільнені саме через застосування ШІ у власній роботі. Про це розповідає розслідування 404 Media.
Ці підрядники працювали над оцінкою та вдосконаленням відповідей моделей OpenAI, але через використання чат-ботів чи інших інструментів ШІ для виконання завдань втратили співпрацю з компанією.
Чому заборона на використання ШІ має сенс
Хотілося б подумати, що заборона використання штучного інтелекту в цій роботі звучить нелогічно, але справа в тому, що цих людей беруть саме за їхню здатність давати людську оцінку. Якщо ж такі фахівці довіряють той самий процес чат-ботам, то сенс у їхній праці істотно знижується.
Один із підрядників зізнався в інтерв’ю 404 Media, що застосування штучного інтелекту серед працівників доволі поширене. Водночас сотні людей були відізвані через порушення правил, а декому присилали листи про звільнення із посиланням на «нестачу автентичності» в роботі.
Роль людини в навчанні штучного інтелекту
ШІ-моделі не навчаються лише на основі гігантських масивів тексту з книг або мережі. Частина навчального матеріалу — це дані, створені або оцінені людьми, які допомагають направляти модель і покращувати її відповіді.
OpenAI відкрито визнала, що якість та справжність відгуків, які дають тренери, впливають на якість роботи самих моделей. Це означає, що саме фахова людська експертиза визначає кінцевий рівень відповідей ШІ.
Підрядники працюють на різних проєктах OpenAI, часто в командах, що налічують тисячі осіб. Їхнє завдання — ретельно оцінювати, рейтингувати відповіді і вибирати найкращі з них, допомагаючи моделі розуміти переваги користувача.
Правила, які забороняють використання чужого ШІ
Документи для підрядників чітко забороняють застосовувати штучний інтелект для написання власних коментарів або оцінок. Конкретно заборонено використовувати інструменти на кшталт Grammarly, перекладачів на основі ШІ та інші великі мовні моделі для виконання поставлених завдань.
Підтвердження цього надходить і від компанії Mercor, яка працює з OpenAI, — в їхніх контрактах прямо вказано, що використання великих мовних моделей для виконання роботи заборонено.
Чому автоматичні детектори ШІ не допомагають розкривати порушників
Можна було б припустити, що компанії застосовують детектори ШІ, щоб перевірити, чи не порушують працівники правила. Проте 404 Media з’ясувала, що це не так.
В інструкціях для рев’юверів немає рекомендацій використовувати такі інструменти, як GPTZero, через їхню ненадійність. Натомість працівників просять прискіпливо аналізувати стиль письма, шукати повтори, нетипово швидке виконання завдань і характерні для моделей ШІ особливості, наприклад, надмірне використання тире.
Зазначається, що підрядники мають не розкривати, за якими ознаками виявили можливе використання ШІ, щоб ті, хто порушує правила, не могли легко приховувати це в майбутньому.
Ключові ознаки, на які звертають увагу рецензенти
- Повторювані звороти та структура речень.
- Занадто швидке виконання завдань.
- Химерний стиль письма, не схожий на природний.
Функція синтетичних даних в навчанні моделей
OpenAI активно застосовує синтетичні дані — тобто інформацію, створену за допомогою штучного інтелекту, щоб доповнити тренувальні набори. Це допомагає покращити продуктивність моделей, особливо в сферах, де бракує автентичних даних.
Проте заміна живої людської оцінки на роботу іншої моделі ШІ в процесі навчання несе ризики, адже виключає людське судження, що є основою для точного розуміння очікувань користувачів.
Чому роль людини лишається незамінною
- Людина здатна врахувати контекст і нюанси, які не завжди розпізнає машина.
- Людська перевірка допомагає корегувати відхилення моделі від бажаного поведінкового стандарту.
- Зворотний зв’язок від людини формує орієнтир для подальшого вдосконалення системи.
Хоча випадки порушень не вплинули безпосередньо на якість ChatGPT, вони свідчать про те, що навіть у сфері створення найсучаснішого ШІ робота людини залишається критично важливою. Саме люди допомагають навчати машини ставати кращими.
