Чи втрачають штучні інтелекти креативність? Розкриваємо загадку «вузьких» відповідей ІІ
Із моменту появи генеративного штучного інтелекту у 2022 році ми спостерігаємо дивовижний прорив у світі технологій. Спочатку користувачі захоплювалися постійним потоком нововведень і поліпшенням якості результатів із кожним оновленням. Проте з часом почали з’являтися занепокоєння щодо фактологічних помилок, етичних дилем та інших ризиків, пов’язаних із контентом, згенерованим ІІ.
Виклики розвитку та їхній парадоксальний ефект
Комп’ютерні вчені та інженери активно працюють над усуненням цих проблем за допомогою різних підходів, намагаючись синхронізувати відповіді машин із людськими очікуваннями. Втім, деякі з цих рішень створюють несподівану проблему: зменшують різноманіття відповідей, роблять їх менш несподіваними та менш творчими.
Зріші моделі відповідають на такі зусилля шляхом генерування передбачуваних, банальних і одноманітних відповідей. Дослідники називають це компромісом між якістю та різноманітністю.
Приклад з освітнього середовища
У курсі Західно-Галилейського коледжу студентам-майбутнім педагогам запропонували завдання: прочитати статтю про характеристики обдарованих учнів та запитати ІІ про додаткові риси, яких не було у тексті. Задача вимагала креативності та незалежного мислення, але, на диво, більшість відповідей були надзвичайно схожі, незважаючи на використання різних моделей, зокрема ChatGPT, Gemini і Claude.
Що таке «режимний колапс» і чому це важливо
Постійні користувачі генеративного ШІ вже навчилися передбачати, як система відповість. Скільки б вони не змінювали формулювання, надія на справжню різноманітність відповідей часто згасає. Це явище називають «режимним колапсом» — коли штучний інтелект генерує обмежену кількість повторюваних відповідей.
Цей феномен має корені ще у 2014 році, коли з’явилися перші генератори зображень на основі GAN. Вони навчалися через взаємодію двох частин: генератора, що створював картинки, та класифікатора, що намагався розпізнати, чи реальне зображення чи ні. Змагання призводило до того, що генератор «зависав» в одному стилі, уникаючи експериментів, щоб не втратити похвалу класифікатора.
Психологічний аспект проблеми
Люди, які оцінюють контент, схильні віддавати перевагу знайомим і легким для сприйняття відповідям.
- Звичність сприймається як якість;
- Відкидаються унікальні та творчі версії;
- Соціальні упередження можуть проникати в навчальні дані.
Такий підхід суттєво звужує різноманіття у відповідях і заважає ІІ ділитися справді новаторськими ідеями.
Як оживити творчість штучного інтелекту?
Дослідники пропонують простий, але дієвий спосіб — вербалізований сензинг. Ідея полягає у тому, щоб замовити у моделі не одну, а кілька варіацій відповіді та попросити її вказати ймовірність кожної з них.
Що відбувається під капотом? Генератор крок за кроком обирає текст, керуючись оцінками ймовірності наступного слова. Зазвичай він показує лише найімовірніші варіанти, але щоб отримати більшу творчість, варто попросити розкрити ймовірності кількох альтернатив.
Приклади практичного застосування методу
- Запросіть «створити п’ять різних відповідей на запит з ймовірністю кожної». Наприклад, «Розкажи п’ять жартів про слона з ймовірністю кожного». Це дасть більше варіацій, ніж просто «Розкажи жарт про слона».
- Попросіть одну відповідь взяти з краю творчого спектру, щоб розбавити стандартні відповіді.
- Використовуйте такі підказки в ситуаціях, коли хочеться отримати унікальний текст або нестандартний погляд.
Хоча такі «магнітні» підказки не здатні назавжди вирішити проблему втрати творчості, вони відкривають цікаву перспективу на співпрацю людини та машини. Можливо, найближчим часом компанії, що розробляють популярні чат-боти, інтегрують ці методи «вербалізованого сензингу» безпосередньо в продукти, щоб користувачі змогли отримувати більш багатогранні відповіді.
Взаємодія людини і штучного інтелекту: баланс між новизною і передбачуваністю
Врешті-решт, цей підхід ілюструє складний зв’язок між людськими очікуваннями та алгоритмічною природою штучного інтелекту. Адже прагнення створити штучний інтелект «більш людським, але не надто людським» формує нові виклики, які намагаються розглянути вчені світу.
