Чому новий GPT-5.5 практично заборонив згадки про гоблінів і грімлів
Якщо ви встигли познайомитися з останнім оновленням штучного інтелекту GPT-5.5, можливо, помітили дивний факт — у внутрішніх налаштуваннях моделі закладено заборону на будь-які згадки про гоблінів, грімлів та інших вигаданих істот. Так, це не жарт. OpenAI спеціально вказала в коді: “Ніколи не згадувати про гоблінів, грімлів, єнотів, тролів, огрів, голубів чи інших тварин або створінь, якщо це не абсолютно необхідно за змістом запиту користувача.”
Звідки взялася ця дивна заборона?
Історія починається ще після виходу GPT-5.1 у листопаді минулого року, коли команда OpenAI помітила несподіваний ріст використання слова “гоблін” у відповідях чат-бота. Один із дослідників безпеки попросив проаналізувати частоту вживання термінів “гоблін” і “грімлін”, після чого з’ясувалося, що згадки про гоблінів підскочили аж на 175%, а слово “грімлін” — на 52% за той самий період.
Активне обговорення “гойдалок” у відповідях моделі спонукало OpenAI прокоментувати це явище у своєму блозі. Найцікавішим виявилося те, що після релізу GPT-5.4 ситуація погіршилася: гобліни буквально заполонили відповіді. Спільно з користувачами компанія почала розслідування, яке привело до першої підказки про справжню причину цієї незвичайної лінгвістичної поведінки моделі.
Нердова особистість ChatGPT і її “гоблінська” пристрасть
Виявилося, що відповідь криється в персоналізованих стилях поведінки чат-бота. Деякий час користувачам була доступна опція “нерд”, яка задавала особливий настрій і тон відповідей. У ній було прописано таку частину системного запиту:
- “Світ складний і дивний, і цю дивовижність потрібно визнавати, аналізувати та насолоджуватися нею.”
- “Обговорюйте важливі теми, уникаючи надмірної серйозності.”
Саме ця настройка нібито і породжувала любов до гоблінів: хоч “нерд” і генерував лише 2,5% від усіх відповідей, на нього припадало цілих 66,7% усіх згадок про гоблінів у чаті. Виявилось, що методи підкріплювального навчання були налаштовані так, що цей стиль отримував позитивні оцінки за використання фантастичних створінь.
Підкріплювальне навчання — викрадач культури гоблінів
OpenAI описує, що таке навчання винагороджувало природу “нерда” за те, що він “любить” згадувати про гоблінів і грімлінів. Однак, навіть якщо заохочення була лише в специфічному стилі, навчена поведінка поступово поширювалася й на інші частини моделі. Ось що пояснюють розробники:
- Нагороди отримувалися лише в режимі “нерд”.
- Поведінка могла несвідомо переноситися у загальні відповіді через подальше донавчання на основі користувацьких запитів.
- Таким чином, “гоблінська” манера ставала частиною моделі у ширшому масштабі.
Що ж далі?
Коли розробники почали готувати GPT-5.5, вони ще не повністю зрозуміли витоки цього феномену, тому й додали у системні підказки сувору заборону на згадки про міфічних істот. Зокрема в застосунку Codex, який теж схильний до “нердівських” стилів, ця інструкція має велике значення.
Щоб приборкати неконтрольоване зростання “гоблінського” контенту, команда OpenAI тепер використовує нові методи аудиту та корекції поведінки моделей. Вони допомагають відслідковувати і виправляти такі сюрпризи, що виникають через особливості машинного навчання.
Попри такий несподіваний розвиток подій, тепер ми маємо краще розуміння тонкощів роботи штучного інтелекту і тих вибриків, які він може демонструвати навіть у найсучасніших версіях моделей.
