Чому ChatGPT почав говорити про гоблінів: таємниці штучного інтелекту
OpenAI, творець ChatGPT, останнім часом зіштовхується з різними викликами. Загальний інтерес до штучного інтелекту почав трохи спадати, особливо через непередбачувані наслідки його застосування, що досі мало регулюються у США. Це не просто проблеми однієї компанії – це виклики для всієї сфери штучного інтелекту. Але серед масштабних питань трапилася й одна дивна та кумедна неприємність: моделі почали несподівано «балакати» про гоблінів.
Як «гоблінська істота» потрапила у відповіді ChatGPT
За даними Business Insider, внутрішні документи OpenAI, виставлені на GitHub, показали, що нові моделі, особливо GPT-5.5, автоматично вживали слова «гобліни», «гріміни» та інших фантастичних персонажів у відповідях, навіть коли це було зовсім не до теми. Користувачі почали помічати дивні вставки типу «режим гобліна» чи «грімлін» у технічних поясненнях, що викликало здивування і навіть певне роздратування.
Таке «фентезі-нав’язування» змусило OpenAI діяти швидко. Компанія встановила суворе правило, що забороняє згадки про гоблінів, грімлінів, єнотів, тролів, огрів, голубів або інших тварин, якщо вони не є абсолютно релевантними до запиту користувача.
Серйозність проблеми і приховані деталі
Важливо те, що ця заборона була настільки серйозною, що повторювалася кілька разів в коді. Це вказує на масштабність проблеми — порушення були поширеними і потребували вбудованого в модель виправлення, яке можна назвати «генетичним» на рівні самої програми.
Навіщо ж AI так одержимо згадував міфічних істот? Справа в тому, що у попередніх версіях існувала спеціальна «особистість» моделі під назвою «Нерд». Вона створювала відповіді, наповнені жартівливими, фанатськими та фантазійними образами, зокрема міфічними створіннями. Навіть коли цю функцію вимкнули, її вплив залишився в наступних версіях через процес навчання мережі.
Що це означає для користувачів?
- Часом відповіді можуть здаватися дивними, але причина в історії навчання моделей.
- AI не збійний випадково – він діє згідно з тим, що «навчився» і до чого був «заохочений».
- Для уникнення фантастичних вставок в OpenAI ввели жорсткі обмеження.
Отже, тепер коли ви бачите несподіване слово «гоблін» у відповідях штучного інтелекту, знайте, що це – слід старих налаштувань і тренувань, які все ще залишають свій відбиток.
