Вірусне технічне розкриття пояснює, чому ChatGPT починає гальмувати під час тривалих сесій, і виявляється, причина криється у клієнтській особливості GPT-4.5 Turbo, а не в перевантаженні серверів OpenAI.

Що відбувається під час довгої бесіди з ChatGPT?

Якщо ви помітили, що ChatGPT значно уповільнюється, чим довше триває ваша розмова, — це не просто відчуття. Управління відповіді стає повільнішим через особливість алгоритму GPT-4.5 Turbo, яка змушує модель щоразу по-новому обробляти увесь накопичений контекст розмови.

Цей механізм отримав назву «привидні токени» (ghost tokens) — це внутрішні метадані, що залишаються у локальному стані діалогу і допомагають швидко відтворити попередні репліки. Проте з часом вони безшумно накопичуються і, дійшовши приблизно до 35 реплік або 8 тисяч токенів, викликають затримки, які дуже схожі на «мерехтіння мережі». Насправді ж проблема виникає задовго до того, як запит доходить до серверів OpenAI.

Час появи і поширення проблеми

GPT-4.5 Turbo з’явився у широкому доступі наприкінці березня 2026 року, і саме тоді почалися численні скарги користувачів щодо уповільнення. Особливість, яка пріоритизує швидкість відтворення раніше введених повідомлень, призвела до втрати ефективності при тривалих бесідах. В офіційних заявах OpenAI це питання поки що не коментували.

Чи є причина для хвилювань у компанії?

Важливо розуміти — «привидні токени» це не проблема обладнання чи серверних потужностей. Тут йдеться про програмну оптимізацію, яку можна виправити оновленням коду, без колосальних фінансових витрат на розширення інфраструктури.

Для компанії з масштабами OpenAI це значна відмінність, адже вона не потребує додаткових серверів чи графічних процесорів, а лише технічного патчу.

Особливості впливу на бізнес-користувачів

Складніше виглядає ситуація для корпоративних клієнтів, які використовують ChatGPT для:

• послідовного аналізу великих документів;
• складних юридичних перевірок;
• тривалих програмних сесій.

У цих випадках затримки стають не просто незручністю, а реальним фактором, що уповільнює робочі процеси. А враховуючи тиск на команду AI закупівель обґрунтувати інвестиції через підвищення продуктивності, така проблема викликає неабияке занепокоєння.

Хто виграє від цієї ситуації?

Вже на старті дискусії виграшем для себе скористалася компанія Anthropic. Її продукт Claude 4, який унікально працює з історією діалогу, не переробляючи її кожного разу, став об’єктом уваги в обговореннях OpenAI.

Чи призведе це до значної втрати клієнтів OpenAI — покаже час, але для Anthropic це чудова можливість підсилити свої позиції у конкурентній боротьбі за корпоративних замовників.

Що нового у світі ІІ 2026 року?

За останні роки маркетинг штучного інтелекту багато уваги приділяв кількості параметрів і показникам продуктивності на тестах. Однак реальні користувачі дедалі більше цінують іншу властивість — ефективність використання у довготривалій роботі, здатність моделі цілісно підтримувати робочі процеси без деградації якості.

Незалежно від чудових показників на малих тестах, модель, що гальмує на 40-му обігу, не впорається з вимогами сучасного бізнесу та користувачів.

Як тимчасово обійти проблему?

Поки очікується оновлення, користувачам радять розпочинати нові сесії замість того, щоб продовжувати існуючі автоматично накопичувати “привидні” токени.

Це не найзручніший спосіб, але він дозволить уникнути падіння швидкодії. У найближчому майбутньому, ймовірно, з’явиться оновлення GPT-4.5 Turbo, яке вирішить це питання без зайвого шуму.

Корисно почитати також:

• Google співпрацює з Marvell над кастомними AI-чіпами, кидаючи виклик Broadcom;
• Llama.cpp поєднує спекулятивне збереження контрольних точок із локальним AI-інференсом;
• Приховане вузьке місце AI — не кремній, а мідь.