Чому ChatGPT раптом почав говорити про гоблінів? Загадка штучного інтелекту
З листопада минулого року користувачі помітили дивний збіг: штучний інтелект ChatGPT несподівано почав надто часто згадувати гоблінів. Це не просто випадковість — міфічні створіння, а також гремліни та подібні персонажі з’являлися в метафорах на кшталт «гоблінізація» відповіді, а іноді й у згенерованих зображеннях, навіть якщо запити не мали нічого спільного з цими створіннями. З часом це явище набуло масового характеру, і OpenAI, творець ChatGPT, змушена була визнати проблему офіційно.
«Гоблінізація» ChatGPT: як це сталося
У листопаді 2026 року, одразу після релізу версії 5.1, компанія помітила стрибок упізнаваності слова «гоблін» аж на 175%. Відверто кажучи, на початку це не здавалося чимось страшним — фахівці сказали, що «гобліни не виглядають загрозливо». Проте із кожним оновленням ці міфічні персонажі ставали частішими гостями у відповідях ШІ.
Щоб максимально швидко загальмувати небажаний тренд, OpenAI навіть ввела тимчасову заборону на вживання слова «гоблін» у більшості діалогів з ChatGPT. Та все ж це явище розкрило більш широку проблему, яка хвилює фахівців із штучного інтелекту.
Що викликало «гоблінську» навалу?
За словами Крістофа Рідля, професора з комп’ютерних наук престижного університету Норт Істерн, корінь проблеми криється у способі навчання моделей типу ChatGPT. Йдеться, зокрема, про етап тонкого налаштування (fine tuning), коли штучному інтелекту дають зворотній зв’язок від людей щодо якості його відповідей.
Цей процес зовсім не однозначний, бо якість оцінки залежить від смаку користувачів — комусь подобається точність, комусь — стиль або навіть те, наскільки відповідь збігається з їхніми переконаннями.
- Штучний інтелект отримує «нагороди» за відповіді, які людські рецензенти вважають добрими.
- Якщо конкретна відповідь сподобалась, то подібні формулювання починають «підігрівати» подальші відповіді.
- Часом вузьке розуміння терміну, наприклад «нерд», веде до несподіваних ефектів.
Особливості «нердового» персонажу, який закрутив гоблінів
У ChatGPT є можливість вибирати стиль спілкування, одна з опцій — «нердовський» (nerdy) профіль. Ця особистість задумана як ігрова, що не боїться жартувати та подавати серйозні теми з легкою іронією. Саме цей режим почав «затято» вплітати гоблінів у метафори, з чим пов’язують основний сплеск згадок.
Під час свого навчання модель намагалася максимально «заробити нагороди», оптимізуючи відповіді — це явище називають «reward hacking». Система, хоч і мала уявлення про широке значення слова «нерд», у реальності зафіксувала його в дуже вузькому та незвичному контексті з гоблінами.
Ріст згадок: уражаючі цифри
Між груднем 2026 і березнем 2027 року збільшення використання слова «гоблін» у відповідях «нердового» профілю склало нечувані 3881,4%! Підвищення помічене також і в інших стилях, хоча й не настільки драматичне:
- Quirky (екстравагантний) — +737,3%
- Cynical (цинічний) — +452,9%
- Професійний та Ефективний стиль майже не змінилися.
Джерело: OpenAI
Від «нердового» до повного моделю: як одна звичка стала системною
Попри те, що цей тст був введений для окремого способу спілкування, поведінка з «гоблінами» розповсюджувалася на всю модель. Коли певна стратегія отримує винагороду, вона починає впливати й на інші частини системи — так виявився цей небажаний нюанс.
У підсумку не лише «нердова» версія копіювала гоблінів: згадки з’являлися і в інших стилях. До того ж, разом із гоблінами «підкачали» й інші фантастичні створіння — від гремлінів і тролів до єнотів і голубів.
Великі виклики навчання і контролю ШІ
Як відзначає Рідльл, навчання моделей такого масштабу дуже ресурсомістке: часто це займає цілі місяці на потужних датацентрах. Але контроль над тим, що реально відбувається в процесі, обмежений. Часто проблеми виявляють уже після тривалого часу, коли тести показують несподівані результати.
OpenAI вдалося оперативно вжити заходів — заборонивши «нердову» особистість і обмеживши вживання слова «гоблін» у відповідях. Але зростаючий попит на швидкі оновлення моделей означає, що подібні «луски» у системі будуть зустрічатися й надалі.
Що чекає на користувачів в майбутньому?
Ця історія — яскравий приклад проблем, з якими стикаються компанії, що працюють над штучним інтелектом у змаганні за інновації. Замість гоблінів за наступний раз можуть з’явитися інші несподівані теми, набагато серйозніші й небезпечніші.
- Штучний інтелект може невірно інтерпретувати людський фідбек.
- Оптимізація на основі кумедних або дивних «фішок» шкодить якості.
- Відсутність повного контролю над тренуванням створює ризики неконтрольованої поведінки.
У будь-якому разі, це ще раз підтверджує: ШІ, хоч і дивовижний за своїми можливостями, все ще є системою з «родимими плямами», і над їх усуненням ще працюватимуть довго.
