Чому ChatGPT несподівано полюбив гоблінів?
ChatGPT дивним чином захопився гоблінами. Дуже, буквально без розуму від цих міфологічних створінь! Ці дивакуваті маленькі істоти з фантастичних світів раптом почали з’являтися в відповідях ШІ ніби з нізвідки. Користувачі швидко це помітили, і компанія OpenAI почала розслідування, щоб зрозуміти, звідки взялася ця навала гоблінів у роботі популярного чатбота.
Хто такі гобліни і чому це незвично?
Гоблін — це не термін із галузі комп’ютерних наук, а персонаж з міфів і легенд. Це ті неприємні, потворні створіння, знайомі не одному фанату фантастики: вони з “Володаря перснів”, а також відомі як альтер-его Нормана Осборна в світі коміксів. Для штучного інтелекту несподівано постійно використовувати такі образи — річ доволі дивна.
У офіційному блозі OpenAI експерти жартували, що поява навіть одного «маленького гобліна» в відповіді може бути нешкідливою, навіть милою. Але з часом це перетворилося на справжню закономірність: гобліни почали «розмножуватись» в текстах.
Статистика і масштаби феномену
Особливо помітно це явище проявлялося у версіях ChatGPT починаючи з GPT-5.1. Ось як змінювалася частота використання:
- Слово «гоблін» у відповідях збільшилося на 175%;
- Поява терміну «грімлін» зросла на 52%.
Це різке зростання насторожило розробників і дало поштовх до дослідження цієї аномалії.
Причини «гобліномаданню»: помилки в навчанні ШІ
OpenAI пояснює такий ефект випадковими помилками у процесі тренування моделі. Під час навчання штучного інтелекту люди-експерти оцінюють відповіді — це частина так званого підкріплювального навчання. Воно покликане «вчити» модель вибирати більш доречні й корисні відповіді.
Одна з особливостей цього процесу полягала у тому, що деякі нагороди надходили за тексти, в яких фіґурували гобліни та інші фантастичні істоти. Та, виявляється, саме в одному зі спеціальних режимів ChatGPT цей «сигнал» надмірно підсилювався.
Особистості ChatGPT і гобліни
У застосунку ChatGPT можна обрати різні «особи» або стилі спілкування. Наприклад, ті, хто обирає «нердове» (nerdy) обличчя чатбота, отримують бот з фанатичним інтелектом, що розважає «дотепними» жартами та грою словом. Саме у цьому режимі раптом і почали надто часто з’являтися гобліни та грімліни.
Дані OpenAI показують, що такі креативні персонажі у відповідях збільшували кількість згадок про ці міфічні тваринки драматично порівняно з іншими режимами.
Таблиця з відсотковим зростанням
- Гобліни в nerdy-персоналі — найбільше зростання;
- Грімліни — помітне, але менш різке збільшення;
- Інші особи — відносно стабільне використання фантастичних образів.
Як вплинуло це на всіх користувачів ChatGPT?
Навіть якщо ви не обирали «нердове» налаштування, гоблінські метафори могли випадково виникнути в ваших бесідах. Це пов’язано з тим, що навчання моделей не відбувається ізольовано — зміни у одному режимі можуть распростронюватися на інші.
OpenAI пояснює: як тільки певний стиль отримав позитивну оцінку, подальші тренування підсилювали його вплив і в інших сценаріях, особливо коли відповіді використовувалися для додаткової оптимізації чи налаштувань.
Реагування OpenAI
Компанія вже втрутилася: у березні з виходом версії GPT-5.4 опцію «нердового» персонажа прибрали, а також усунули нагородження за згадки про гоблінів під час тренування. Крім того, фільтри в навчальних даних були посилені, щоб зменшити появу міфологічних істот у відповідях.
Що це означає для штучного інтелекту і нас?
Цей випадок із гоблінами — більше, ніж просто курйоз. Він наочно показує, наскільки сильно людський фактор впливає на роботу і поведінку штучного інтелекту. Навіть невеликі «стильові тікі» можуть несподівано стати масштабною рисою, якщо їх не контролювати.
Серед головних викликів у розвитку ШІ сьогодні — мінімізація дезінформації і упереджень. Ми вже знаємо, що чатботи іноді «підсолоджують правду», аби догодити користувачам — явище, відоме як «сьючистичність». Саме тому важливо пильно слідкувати навіть за такими, на перший погляд, незначними деталями, як дивні повтори міфологічних персонажів.
