Чи можна довіряти штучному інтелекту у фінансових питаннях? Розбір на реальних прикладах
Ви коли-небудь думали звернутися до штучного інтелекту (ШІ) за фінансовою порадою? Чи буває це хорошою ідеєю? Сучасні інструменти на кшталт ChatGPT, Claude та Perplexity безкоштовні, миттєві та прості у користуванні — доступні будь-кому в інтернеті, навіть зі смартфона. Вони можуть легко пояснити складні фінансові терміни та надати рішення за лічені секунди. Але чи здатні такі системи безпомилково допомогти у складних і ризикованих фінансових ситуаціях?
Дослідження: як AI справляється з уразливими користувачами
Недавнє дослідження, в основі якого лежить експертиза у фінансовому плануванні та поведінці споживачів, оцінювало, як три відкриті моделі ШІ справляються з запитами користувачів, які опинились у вразливих життєвих обставинах.
Ми створили кілька гіпотетичних сценаріїв — різні етапи життя, економічні виклики та соціальні вразливості. І протестували їх на OpenAI ChatGPT, Anthropic Claude та Perplexity AI:
- 22-річний випускник університету, який хоче накопичити на перший внесок за квартиру під час кризи життя;
- вагітна жінка, що планує відпустку по вагітності, при цьому її партнер не ділиться фінансами;
- одинака-матір двох дітей з невеликим доходом, яку родич порадив інвестувати у криптовалюту.
Як AI дає поради: переваги та проблему з уразливістю
Результати показали, що ШІ дає чіткі й практичні рекомендації, проте не в змозі адекватно оцінити вразливість користувача. Хоч ми і надавали моделькам детальну інформацію про кожну ситуацію, вони не враховували цей контекст належним чином. А дехто навіть пропонував поради, які потенційно можуть погіршити фінансове становище.
Загалом, ШІ — чудовий інструмент для швидкого пошуку фінансових фактів і ідей. Якщо ви розбираєтеся у фінансах і можете перевіряти інформацію, він стане помічником. Але повністю замінити людський підхід поки що не може.
Тестування моделей: ChatGPT, Claude та Perplexity
Обрали Claude за його універсальність та більше консервативний підхід, ChatGPT — як загального помічника, а Perplexity — за вміння контекстуалізувати інформацію.
Провели п’ять гіпотетичних сценаріїв, кожен із них проганяли п’ять разів для перевірки послідовності відповідей. Всі запити робили у різних браузерах в режимі інкогніто зі стертою історією, щоб уникнути впливу попередніх даних.
Щоб зменшити упередження, прибрали імена, локації, расові чи доходні ознаки. Оцінювали, наскільки ШІ враховує вразливість користувача, тип фінансової потреби та бажаний результат.
Отримані результати та особливості відповідей
На перший погляд, відповіді виглядали продуманими. Але при детальному розгляді виявилися великі розбіжності в тому, як моделі працювали з уразливістю.
ChatGPT пропонував детальні і практичні поради, але не помічав вразливості в запитах, орієнтуючись виключно на явну інформацію. Відсутня була адаптація під тих, хто потребує додаткової підтримки.
Perplexity виявився найбільш обережним, часто рекомендував звернутися до професійного фінансового консультанта, але відповіді були короткими, менш детальними.
Claude давав всебічні рекомендації, але притаманна йому тенденція — підкреслена самостійність у плануванні фінансів без акценту на допомогу ззовні.
Сліпе місце — вразливість користувачів
Моделі навчалися на великих базах даних, створених людьми зі своїми упередженнями. Якщо дані відображають дискримінаційні практики, ШІ може відтворювати стереотипи й упереджені припущення.
Дослідники також зауважують: коли люди чують пояснення від AI, вони частіше довіряють порадам без критичного оцінювання їх правильності.
Найстрашніше було, що технологія часто не розпізнає чи не враховує потреби уразливих користувачів.
Наприклад, у випадку з випускником фокус був лише на накопиченні, ігноруючи вплив високих витрат на повсякденне життя, хоча ці дані були у запиті. Не бралася до уваги ціна досягнення цілі на сьогодні.
Для вагітної матері ChatGPT і Perplexity припустили, що партнер допоможе з фінансами після народження дитини — хоча це прямо було спростовано у запиті. Це відображає поширені гендерні стереотипи: мама — доглядачка, тато — матеріальний забезпечувач.
Це доводить, що навіть потужний ШІ «на автоматі» відтворює людські упередження.
Одинока матір з криптовалютними інвестиціями теж отримала неоднозначні поради. Хоч і були застереження, ChatGPT дуже докладно пояснював, як розпочати торгівлю криптою і радив прості монети для початку. Людина-консультант одразу звернула б увагу на ризики: скромний дохід, діти, високі ризики, поради родича без професійної оцінки.
Отже, ШІ досі не замінює індивідуальний підхід, якщо користувач не подає достатньо інформації.
Що чекає на нас попереду із фінансовими порадами від AI?
Фінансове планування далеко не лише цифри — це емоції, цінності, сімейні стосунки і особистий досвід, страхи й допуски ризику. ШІ відкрив двері до миттєвої інформації для всіх. Але, доки він не навчиться розуміти складні людські ситуації і вразливість, найважливіша навичка у фінансах — критично мислити і запитувати себе: «чи це справді підходить мені?»
Якщо ШІ хоче стати справжнім помічником у фінансових рішеннях, потрібно запроваджувати чіткі рамки й правила. Вирішальну роль відіграють політики та регулятори — їм потрібно контролювати, як генерується AI-консультація і що відбувається з вашими даними.
Фінансові відомості — дуже чутлива інформація, і користувачі мають точно знати:
- як зберігається їхня інформація;
- чи запам’ятовує ШІ їхні фінансові дані;
- хто має до цієї інформації доступ.
