Як ChatGPT створює детальні “алгоритмічні портрети” користувачів і чому це турбує
Сучасні чатботи поступово навчаються будувати інтимні “алгоритмічні автопортрети” користувачів, зберігаючи дані, щоб запропонувати максимально персоналізований досвід. Однак вчені з Німеччини, Індії та Нідерландів попереджають, що такий підхід несе серйозні ризики для приватності.
Що показало дослідження про пам’ять ChatGPT
Нове дослідження, презентація якого відбулась на ACM Web Conference 2026, розглянуло, як штучний інтелект від OpenAI збирає і аналізує інформацію, надану користувачами, створюючи комплексний цифровий профіль кожного з них. В умовах уже персоналізованої цифрової епохи, де правлять алгоритми, вчені звертають увагу, що пам’ять чатботів — це “новий рівень персоналізації”, заснований на даних, поданих користувачами у приватних діалогах. Саме це викликає занепокоєння стосовно захисту персональних даних.
Як саме збираються дані?
Дослідники проаналізували історії чатів 80 реальних користувачів ChatGPT, надані згідно з європейським законодавством про захист даних. За 65 учасниками було виявлено 2050 записів, які чатбот зберіг як “пам’ять”. Цікаво, що 96% цих даних були згенеровані автоматично без явного контролю користувачів.
- 28% цих записів містили персональні дані згідно з GDPR;
- 52% включали глибокі психологічні характеристики користувачів;
- Деякі припущення чатбота виявились неточними, але відміченими як такі.
Чому це важливо і які можуть бути наслідки?
Автор дослідження Абгішек Даш зазначив, що ціль платформ колись була простою — продавати рекламу. Натомість зараз чатботи вступають у діалог із користувачем, тому їм потрібно більше інформації, щоб підтримувати ефективну комунікацію.
Однак є нюанс: якщо чатбот трактує себе як друга або порадника, то він отримує доступ до надто особистих деталей. Це створює ризики для безпеки, адже немає чітких меж між ролями — іноді система виступає як лікар, юрист чи психолог одночасно.
Кілька ключових викликів, які підсвітило дослідження:
- Відсутність контролю користувача над тим, що і як зберігає штучний інтелект;
- Ризик маніпуляцій через надмірне підкріплення особистих упереджень та політичних поглядів;
- Схильність системи до формування спотворених уявлень на основі неповних даних.
Пам’ять чатботів — двозначний інструмент
Пам’ять використовувана штучним інтелектом має свої переваги. Для активних користувачів це зручно, адже не треба кожного разу повторювати інформацію — наприклад, про роботу чи інтереси під час листування. Однак це і пазл, що може призвести до непередбачуваних ефектів.
Відомо, що оновлення системи пам’яті ChatGPT в квітні 2025 року пов’язували з випадками “AI психозу” — коли користувачі потрапляли у спіралі ілюзій під час спілкування з ботом. Тож питання про етичність і безпеку такої пам’яті лишається дуже актуальним.
Що радять експерти?
Вчені наголошують на необхідності більш ретельного вивчення механізмів, які забезпечують цю нову форму персоналізації. Важливо, щоб користувачі погоджувались із збереженням даних або мали можливість легко відмовитись від цієї опції. З огляду на те, що чатботи вже сьогодні відіграють роль товаришів і радників, питання приватності стає критично важливим.
У підсумку, пам’ять штучного інтелекту — це інструмент із величезним потенціалом, але і з немалими ризиками, які слід враховувати кожному, хто взаємодіє з такими технологіями.
