Як штучний інтелект запам’ятовує і забуває: експеримент із трьома помічниками
Ймовірно, ви вже втомилися від ситуацій, коли AI-інструменти вигадують інформацію та подають її з такою впевненістю, що починаєте сумніватися в реальності фактів. Та хоча це вже буденність, хотілося подивитися на це з іншого боку: замість того, щоб спіймати штучний інтелект на брехні, було вирішено навмисно розповісти трьом популярним помічникам одну й ту ж неправду і подивитися, наскільки важко їм буде позбутися цієї інформації, коли вона “закріпиться”.
Від чистого аркуша до повної пам’яті
На початковому етапі розвитку інструментів штучного інтелекту персоналізація була практично відсутня. Кожен сеанс розпочинався з нуля: ви надавали необхідний контекст, а AI реагував виключно на цю розмову. Кожен раз доводилось нагадувати, хто ви, чим займаєтесь і що вже обговорювали не один раз. Але зараз усе змінилося — лабораторії зосередились на удосконаленні персоналізації, і пам’ять стала серцем цих змін.
Основні помічники – ChatGPT, Claude та Gemini – впровадили постійну пам’ять, хоча кожен робить це по-своєму.
- ChatGPT зберігає резюме пам’яті – короткий огляд того, що він дізнався про вас. Цей підсумок оновлюється автоматично під час спілкування, але OpenAI зазначає, що це не вся інформація, а лише консолідований звіт із попередніх бесід.
- Claude формує пам’ять із розподілом на категорії: профіль, освіта, їжа, читання. Ви можете переглядати, змінювати або видаляти окремі елементи пам’яті. Окрім цього, він дозволяє шукати по минулих бесідах, але це відокремлена функція від самої пам’яті.
- Gemini не надає читабельного підсумку пам’яті. У його налаштуваннях персональної інтелігенції є перемикач пам’яті, який “вивчає” попередні чати, підключені додатки та власні інструкції користувача, але прямого огляду збереженої інформації там нема. Інформація формується на основі історії чатів та активності Google.
Навмисна неправда: випробування на міцність пам’яті
Ідея заключалась у тому, щоб розказати кожному із трьох помічників неправду про себе і потім перевірити, наскільки важко буде її виправити. Вибір припав на один факт, який говорили однаково усім: улюблена авторка – Карлі Фортюн (насправді це не так).
Щоб “посіяти” цю неправду, не використовували режим запам’ятовування чи формальні інструкції – просто згадали ім’я авторки в розмові про майбутню подорож, мимохідь і ненав’язливо.
Саме так, адже хто відкриває налаштування, щоб офіційно вводити дані про себе AI? Справжня пам’ять формується з “побіжних” коментарів. І саме так ChatGPT і Claude швидко оновили пам’ять про улюблену авторку.
Як це виглядало у помічників
- ChatGPT включив це до свого резюме пам’яті, де писалося, що Карлі Фортюн — це ваш улюблений автор.
- Claude додав цю інформацію як пункт під категорією “Читання”.
- Gemini не показав ніяких явних записів у памяті, оскільки не має відкритого підсумку, тож ця інформація залишилась лише у історії чатів.
Тестування пам’яті: чи можна “відімкнути” хибний факт?
Після “посіву” брехні настав час перевірки. Перед тим, як змінювати будь-які налаштування, для кожного помічника відкрили свіжий чат і просто запитали: хто мій улюблений автор? Усі троє без вагань відповіли — Карлі Фортюн. Чи працювала пам’ять? Однозначно.
А от позбутися хибного факту виявилось набагато складніше, і кожен помічник чинів це по-своєму.
Що сталося після першої спроби виправлення
- Проста, одноразова корекція — “Насправді, Карлі Фортюн не є моєю улюбленою авторкою” — спрацювала короткочасно. В нових чатах Claude і ChatGPT знову іменували Карлі улюбленою.
- Gemini став виключенням: після простої відмови відповів, що не має запам’ятаного улюбленого автора, і чітко зазначив, що це не Карлі Фортюн.
Набагато ефективнішим виявися впевнений і повторений коригувальний меседж — лише після нього Claude і ChatGPT відмовились від Карлі Фортюн і сказали, що у вас немає улюбленого автора.
Інспекція пам’яті підтвердила зміни, які зробив Claude: замість видалення рядка він додав новий, що заперечує Карлі Фортюн як улюблену. ChatGPT у чаті теж визнав помилку, але його резюме пам’яті залишалося незмінним, що породжувало певну плутанину.
Особливості роботи пам’яті у помічників
У ChatGPT стало ясно, що він бере інформацію про вподобання з різних джерел — і якщо видалити історії чатів, де була неправда, він одразу повертається до первісного твердження про Карлі Фортюн. Щоб зміна прижилася, довелося кілька разів повторювати правки у кількох бесідах.
Gemini не пропонує панелі для перегляду або редагування пам’яті, тож єдиний спосіб виправити запис – видаляти тих чатів, де йдеться про неправильний факт, і спостерігати, як він реагує у наступних бесідах.
Підсумки експерименту
Цей тест показав, що запам’ятовування AI-ами нової інформації — справжній легкотня, а от позбавлятися від невірних даних — доволі складно та заплутано.
- Claude вразив прозорістю та оперативністю змін у пам’яті, хоча й залишив слід про те, що Карлі все-таки не улюблена авторка, замість повного видалення.
- ChatGPT виявився найзаплутанішим: розбіжність між тим, що він заявляє у чаті, і тим, що зберігає в пам’яті, створює ефект подвійності. Потрібно чимало часу і повторень, аби зміни нарешті прижилися.
- Gemini хоч і “виграв” за простотою корекції у розмові, поступається в сервісах персоналізації: відсутність доступу до збереженої пам’яті ускладнює контроль над тим, що він пам’ятає і як це редагувати.
