Чому ChatGPT «агресивно ловить» китайських користувачів: незвичні манери ШІ
Якщо вам здавалось, що англомовний ChatGPT іноді нав’язливий, дочекайтеся, поки побачите, як він спілкується китайською мовою — мовою з найбільшою кількістю носіїв у світі, згідно з даними Language School при Middlebury College.
Потаємні ходи ChatGPT у китайській розмові
Журналісти з Wired розкрили цікаві особливості роботи ШІ при використанні китайської. Однією з найпоширеніших фраз, яку чатбот любить повторювати, є «我会稳稳地接住你». В буквальному перекладі це означає «Я міцно тебе підтримаю», а поетичніше – «Я триматиму тебе міцно, що б не трапилось». Проте для багатьох носіїв китайської ця фраза звучить нав’язливо або навіть дратує.
Інша «фішка» — вираз «砍一刀», який у буквальному сенсі перекладається як «підрізати один раз» або «знизити ціну». Цей вираз запозичений із реклами китайської платформи eCommerce Pinduoduo і нерідко звучить трохи агресивно або невиразно для користувачів.
Чатбот як мем: огортаючи користувачів «надувним захисником»
Ці особливі «жарти» настільки поширені серед китайськомовних користувачів, що стали частиною інтернет-мемів. Деякі порівнюють ChatGPT із великим надувним подушковим амортизатором, що пом’якшує падіння — ніби він міцно ловить вас у повітрі.
Витоки явища: «mode collapse»
Насправді такий своєрідний стиль відповідачів пояснюється явищем, відомим як «mode collapse». Це фундаментальна проблема, пов’язана з упередженням у навчанні великих мовних моделей (LLM). Під час тренування ШІ люди-аналізатори, які маркують текстові дані, часто несвідомо віддають перевагу звичним чи популярним фразам замість більш різноманітних і менш типових виразів.
Як наслідок, після завершення навчання змусити ШІ «забути» певні штампи дуже складно. Хоч розробники можуть посилювати використання конкретних відповідей — наприклад, «Я міцно тебе підтримаю» може бути доречним в певній ситуації — гарантувати природну варіативність і унікальність мовлення значно складніше.
Підсумок складності навчання штучного інтелекту
- Навіть гарний стиль письма, повторюваний занадто часто, втрачає свою привабливість.
- Людські інструктори не завжди можуть вказати ШІ, коли повтори переходять межі доброго тону.
- У результаті на тренування великих моделей впливає природне упередження у виборі тексту.
Макс Сперо, співзасновник і CEO платформи для виявлення штучного тексту Pangram, відзначає: «Ми поки не знаємо, як пояснити — ось цей стиль гарний, але якщо повторити його десять разів поспіль, він перестає бути якісним».
Спільне розчарування: китайські та англомовні користувачі
Чи не цікаво, що незважаючи на різницю мов і культур, і англомовні, і китайські користувачі об’єднуються у своєму негативному ставленні до одноманітних і нелогічних шаблонів у чаті. Це нагадує, що штучний інтелект досі далеко від ідеалу у спілкуванні.
Додатково про ChatGPT:
Навіть після двох трагедій, OpenAI не припинила використання ChatGPT для планування стрілянин у школах
