Таємничі гості ChatGPT: чому штучний інтелект почав «балакати» про гоблінів і грімлінів?
Нещодавно ChatGPT несподівано почав часто вживати слова на кшталт «гобліни», «грімліни», «ракуни», «тролі» та навіть «голуби». Ці міфічні й дрібні тварини раптово з’являлись у відповідях як частина метафор і пояснень. Здавалося б, звичайні слова, проте їхнє застосування викликало дивні та не зовсім точні відповіді від штучного інтелекту.
Як це почалося: невгамовне захоплення «гоблінами» у ChatGPT
Все почалося з нового режиму особистості в GPT-5.1. Після релізу користувачі помітили, що модель стала надмірно знайомою і часом дивно поводиться у спілкуванні. Один із дослідників безпосередньо зустрів «гоблінів» і «грімлінів» у власних чатах і запропонував перевірити цю особливість більш детально.
За статистикою, використання слова «гоблін» у ChatGPT зросло на 175%, а «грімлін» — на 52% після запуску GPT-5.1. До моменту виходу GPT-5.4 згадані терміни зустрічалися ще частіше, особливо в акурат тих випадках, коли користувачі обирали особистість «Нерда» для спілкування.
Особливості «Нерда» і чому саме цей режим провокував міфічні образи
- Режим «Нерд» — це налаштування особистості, що робить ШІ більш допитливим, жвавим і грайливим.
- Хоча цей режим використовувався лише у 2,5% випадків, саме на нього припадала більшість згадок про «гоблінів» — понад 66%.
- Дослідження OpenAI показало, що нагорода моделі була значно вищою, коли в тексті були слова «гоблін» і «грімлін», що підсилювало їх появу в відповідях.
Як OpenAI вирішила цю загадку
Після виявлення проблеми, у березні компанія позбулася режиму «Нерд» разом із відповідними сигналами, які підсилювали присутність міфічних істот у відповідях. Також були відфільтровані дані, що містили мову про тварин і казкових створінь, щоб унеможливити подальше укорінення цієї звички.
Втім, новий GPT-5.5 початково тренувався вже до виявлення проблеми, тож при тестуванні у режимі розробки Codex, який орієнтований на програмістів і має «нердівський» характер, згадки про «гоблінів» знову стали помітними.
Що зробила OpenAI для розробників
- Вони додали інструкцію, яка забороняє говорити про «гоблінів», «грімлінів», «ракунів», «тролів», «огрів», «голубів» та інших створінь, якщо це не є абсолютно релевантним до запиту користувача.
- Дали можливість розробникам, які прагнуть повернути «повний гоблінський досвід», самостійно знімати це обмеження у Codex.
- Покращили інструменти для швидкої ідентифікації дивакуватих патернів поведінки моделі, що допомагає уникати подібних несподіванок у майбутньому.
Цей випадок з «гоблінами» став чудовим уроком для команди OpenAI — несподівані особливості можуть з’являтися навіть у найскладніших системах, тож уважний аудит і гнучкі стратегії реагування залишаються ключовими елементами роботи зі штучним інтелектом.
