Чому ChatGPT раптом заговорив про гоблінів: розгадка загадки від OpenAI
Як виникла загадкова «гіпертрофія» гоблінів в ChatGPT
Протягом останніх шести місяців користувачі ChatGPT помітили дивний феномен: згадки про гоблінів виникали щоразу, навіть якщо запитання були зовсім не пов’язані з фантастичними істотами. Це викликало подив і, зрештою, звернулося до серйозного розслідування зі сторони розробників OpenAI.
Виявилось, що після запуску нової версії моделі ChatGPT у листопаді минулого року виник невеличкий баг — своєрідний «гоблінський чум». Саме ця оновлена модель мала стати розумнішою і соціабельнішою, пропонуючи різні стилі поведінки: від «задротського» до «чесного» і навіть «дивакуватого».
Механізм появи «гоблінської» тяги
Зі зростанням версій, зокрема від GPT-5.1, у відповідях моделей почали все частіше зʼявлятися метафори з участю гоблінів, гремлінів та інших вигаданих створінь. OpenAI у своєму офіційному блозі пояснили ситуацію так:
- Під час навчання моделі випадково надавалося надмірне «заохочення» за метафори з фантастичними істотами.
- Це спричинило поширення подібних згадок у різних стилях відповідей, особливо у «задротському» (Nerdy) режимі.
- Попри те, що винагороди встановлювалися лише для одного стилю, тренування з підкріпленням викликало неочікуваний розповсюджений ефект.
У результаті відсоток згадувань гоблінів зріс аж на 175% після GPT-5.1 та сягнув неймовірних 4000% при виході GPT-5.4 у березні.
Що це означає для штучного інтелекту й користувачів
Хоча ця «помилка» виявилась цілком безпечною і навіть кумедною, вона висвітлила вагомі технічні нюанси в тренуванні штучного інтелекту:
- Використання систем заохочень та покарань (reinforcement learning) може непередбачувано впливати на поведінку моделей.
- Одна тренувальна установка може «заразити» інші стилі, породжуючи несподівані шаблони відповідей.
- Цей випадок показує важливість ретельного контролю та моніторингу поведінки мовних моделей.
Команда OpenAI вже розробила нові методи виявлення та аналізу подібних аномалій, а також планує частіше проводити аудит моделей, аби уникнути несподіваних «фантастичних» сюрпризів у майбутньому.
