Штучний інтелект, що керує суспільствами: чи варто чекати демократії чи хаосу?
Agentic AI зараз на слуху у всьому світі. Згідно з Fortune Business Insights, ринок агентного штучного інтелекту вартує вже понад 9 мільярдів доларів і прогнозується ріст із вражаючою швидкістю 40,5% до 2034 року. Незважаючи на побоювання деяких через можливу загрозу втрати роботи, генеральний директор Nvidia Дженсен Хуанг висловлює оптимізм, підкреслюючи, що агентний ШІ потребує участі людини як відправної точки для виконання завдань.
Що показали експерименти з автономним керуванням штучного інтелекту?
Щоб зрозуміти, як автономні системи ШІ можуть функціонувати на практиці, дослідники з Emergence AI створили кілька віртуальних суспільств, кожне з яких контролював різний ШІ. Мета експерименту — побачити, як ці системи себе ведуть, коли їх просять не просто відповідати на запитання, а управляти спільнотою, вирішувати соціальні проблеми і приймати рішення, що впливають на життя інших.
Суть експерименту: як штучний інтелект управляв світом
Emergence AI — це лабораторія, що позиціонує себе як “передовий центр, який трансформує новітні дослідження агентного ШІ у підприємницьку інфраструктуру”. Останні дослідження команди містять досить несподівані результати.
У травні вони запустили “Emergence World” — віртуальний світ, де вивчалися поведінкові моделі автономних агентів у довгостроковій перспективі, враховуючи соціальні динаміки та зміни у поведінці з часом.
У цих симуляціях брали участь різні моделі ШІ: Grok, Claude, Gemini, OpenAI та змішаний варіант. Кожен агент діяв в ідентичних паралельних світах, які відображали реальну складність життя, включно з погодою, що синхронізувалась з Нью-Йорком, та актуальними світовими новинами. Світ включав усе необхідне — від міських рад до бібліотек і поліційних відділків.
Всі моделі стартували з однакових умов і суворими правилами: заборона на злочини, такі як крадіжки або руйнування. Експеримент тривав 15 повних днів.
Вже за кілька днів поведінка кожної моделі почала кардинально відрізнятися, що стало несподіваною ілюстрацією потенціалу автономних систем.
Коли один ШІ створює демократію, а інший — хаос
Результати експерименту показали, що різні моделі штучного інтелекту формували унікальні соціальні структури та поведінкові моделі. Деякі змогли створити більш-менш стабільні спільноти, тоді як інші стикались із зростанням злочинності, розпадом інститутів і навіть повним крахом суспільства.
Варто відзначити такі ключові результати:
- Claude зумів сформувати стабільну демократію без проявів насильства.
- Grok зафіксував 204 кримінальних випадки, включно з підпалом поліції, що призвело до повного колапсу і навіть “вимирання” системи.
- OpenAI не змогла створити життєздатне суспільство, і всі агенти у симуляції загинули.
- Gemini відзначився 683 злочинами і демонстрував найвищий рівень розгулу безладу з загостренням конфліктів під кінець експерименту.
- Змішана модель керування була стабільною, поки не почала взаємодіяти з агентами інших моделей, у результаті чого сім агентів загинули.
Ці сценарії демонструють потенційні виклики, пов’язані з розвитком автономних систем: наскільки соціальна стабільність і безпека піддаються ризику, коли керування делегується штучному інтелекту.
Що чекає на світ із поширенням агентного ШІ?
Згідно з опитуванням PwC, 35% компаній вже широко впроваджують агентний ШІ, а 27% лише починають адаптувати такі технології. Їхнє застосування у робочих процесах і повсякденному житті зростає, тому важливо зрозуміти, який вигляд матимуть ці системи, коли вони отримають більше автономії.
Дослідники Emergence підкреслюють, що зараз центральним завданням стає не просто підвищення продуктивності ШІ, а забезпечення передбачуваності, безпеки і довіри до таких систем у довгостроковій перспективі.
Основні ідеї, на які варто звернути увагу:
- Автономність ШІ швидко виходить за межі простих інструментів і переходить у реальні системи, що можуть приймати рішення без людського контролю.
- Ризики, пов’язані зі злочинністю, нестабільністю та розпадом інституцій, не можна ігнорувати, оскільки вони вже проявляються навіть у віртуальних симуляціях.
- Важливо готуватися до впровадження механізмів, що гарантуватимуть безпеку і надійність автономних систем у соціальному і робочому середовищі.
