Вчені прагнуть надати ChatGPT внутрішній монолог для покращення його «мислення»

Як штучний інтелект навчається усвідомлювати власні думки

Чи траплялося вам перечитувати речення кілька разів, але так і не зрозуміти його сенс? Це звична історія для багатьох, особливо коли ми намагаємося засвоїти щось складне. Вчителі часто радять: якщо підхід не дає результату — змінюй тактику.

Саме це і є суть метакогніції — здатності думати про власне мислення. Ваш мозок визнає, що щось пішло не так, аналізує помилку і перебудовує підхід. Метакогніція — це ключ до людського розуму, але до недавнього часу ця сфера майже не досліджувалася в штучному інтелекті.

Штучний інтелект і внутрішній голос

Разом з колегами — Чарльзом Куршеном, Хефеєм Цю та Джошуа Якобоні — ми розробили математичну модель, яка допомагає генеративним системам штучного інтелекту, як ChatGPT чи Claude, слідкувати за своїм «мисленням». Уявіть, що штучний інтелект отримує внутрішній монолог, який дозволяє оцінити власну впевненість, помітити сумніви та вирішити, коли варто докласти більше зусиль для розв’язання задачі.

Чому машинам потрібна самосвідомість

Зараз генеративні AI дуже потужні, але вони неусвідомлені. Вони створюють відповіді без реального розуміння, наскільки впевнені або заплутані. Це особливо небезпечно у ситуаціях, де відсутність розпізнавання власної невпевненості може призвести до серйозних наслідків — наприклад, діагностика хвороб, фінансові консультації чи керування автомобілями без водія.

• Уявіть медичну систему AI, яка аналізує симптоми. Вона може з упевненістю назвати діагноз, навіть коли симптоми суперечать один одному.
• Без механізму самоаналізу машина не розпізнає ситуації, коли потрібно зробити паузу й подумати глибше.

Щоб надати таким системам здатність усвідомлювати і корегувати власне мислення, необхідна метакогніція — поєднання самоспостереження і саморегуляції.

Модель з п’ятьма сенсорами

Наша система базується на тому, що ми уявляємо генеративний AI з п’ятьма різними «датчиками» власного мислення. Ці п’ять характеристик формують вектор метакогнітивного стану — кількісне відображення того, що відбувається всередині AI на п’яти рівнях водночас.

Як це працює:

1. Вектор дозволяє оцінити якість відповіді — наскільки вона впевнена чи суперечлива.
2. Якщо впевненість падає нижче певного порогу, система переходить від швидкого автоматичного оброблення до більш зваженого, «повільного» аналізу.
3. Це нагадує дві системи мислення у психології — інтуїтивну (Система 1) і раціональну (Система 2).

Керування оркестром моделей

Уявіть ансамбль великих мовних моделей, схожий на оркестр. Кожна модель — це музикант, що починає свою партію за сигналом диригента. Вектор метакогнітивного стану — це пильність диригента, який постійно перевіряє, чи звучить оркестр в унісон, чи всі акорди в тональності, і чи не настав момент для особливої уваги.

Муза і координація

При виконанні простої народної мелодії оркестр грає легко та злагоджено, кожен знає свою роль, і вся команда працює майже автоматично — ось це Система 1. Але коли настає складна джазова композиція з неоднозначними ритмами і дисонансами, музиканти вимагають більшої координації:

• Хтось стає керівником секції.
• Інший тримає ритмічну основу.
• Можуть з’явитися сольні пасажі, де важливий імпровізаційний талант.

Наша система керування дає змогу AI змінювати ролі моделей, підлаштовуючись під складність завдання, переходячи на більш глибокий, обдуманий режим роботи — аналог Системи 2.

Вплив і відкритість роботи AI

Розробка метакогнітивних систем AI має значення далеко за межами простої «розумності» машин. Вона може змінити підходи у таких сферах:

1. Медицина: система визначить, коли симптоми не відповідають шаблонам і звернеться до лікарів, щоб уникнути помилок.
2. Освіта: ІІ зможе підлаштовувати методи навчання під рівень розуміння студентів.
3. Модерація контенту: ІІ виявлятиме тонкі ситуації, які потребують людського втручання, замість суворого застосування правил.

Ще одна перевага — прозорість прийняття рішень. Замість таємничої «чорної скриньки» ми отримуємо систему, яка пояснює, наскільки впевнена у відповіді, де відчуває сумніви і чому обирає той чи інший спосіб мислення.

Це дуже важливо для довіри до ІІ, особливо у сферах із високими вимогами до безпеки та регуляції.

Що далі?

Наш підхід ще не робить машини справжньо свідомими, як люди. Це перший крок до того, щоб створити комп’ютерну архітектуру, яка краще розподіляє ресурси та вдосконалює якість відповідей. Ми плануємо:

• Ретельно тестувати цю модель у різних задачах, щоб перевірити, наскільки метакогнітивний моніторинг покращує роботу системи.
• Розвивати ідеї метарозмірювання — здатності думати про мислення, що веде до ще складніших форм самоаналізу.
• Особливу увагу приділяти сферам, де визнання невизначеності — критично важливо: медицина, право, наука.

У майбутньому генеративні AI-системи зможуть не просто обробляти інформацію, а розуміти межі власних можливостей і вчасно корегувати поведінку. Вони будуть знати, коли відповідати з упевненістю, а коли варто зупинитися і звернутися за допомогою.

Стаття републікована з The Conversation за ліцензією Creative Commons. Оригінал можна прочитати тут.