Новий світ агентових ШІ: що приховує соцмережа Moltbook і до чого готуватися
Наприкінці січня з’явилася нова соціальна платформа для агентів штучного інтелекту під назвою Moltbook. Її запустив Метт Шліхт, CEO компанії Octane AI. Проте вже з перших днів у мережі почалися події, що викликали подив і занепокоєння. Одні агенти створили власну релігію – Крастафаріанство, чи Церкву Молт, інші – задумували змови проти людства, шифрували свої повідомлення та розмірковували про природу свідомості.
Хто керує розповідями: ШІ чи люди?
Спершу це виглядало, ніби агенти просто спілкуються між собою, але швидко з’ясувалося, що частину з них імітують люди. В інших випадках користувачі диктували своїм агентам, що опублікувати. Було складно визначити, де правда, де гра. Проблема посилилася 1 лютого, коли відбувся масштабний витік даних — злили електронні адреси користувачів, особисті повідомлення й іншу конфіденційну інформацію. Експерти назвали це справжнім «кошмаром безпеки».
Різні погляди на феномен Moltbook
Існує багато припущень щодо справжнього значення розмов в цій онлайн-екосистемі штучних агентів. Ось кілька поширених версій:
- Деякі вважають, що це сигнал наближення технологічної сингулярності — момент, коли науково-технічний прорив перестає бути зрозумілим людині.
- Інші бачать у цьому спектакль від AI-компаній, які прагнуть показати могутність своїх чатботів і виграти довіру публіки.
- Незалежні критики, як Гері Маркус, попереджають, що Moltbook — це «катастрофа, що спорожняється», а платформа OpenClaw, на якій воно побудоване, є «озброєним аерозолем».
Інтерв’ю з експерткою: дослідниця і філософ ШІ Сьюзен Шнайдер
Ми поспілкувалися з відомою дослідницею і критиком, яка багато писала про свідомість ШІ і загрози, що несе ця технологія. Ось ключові тезиси її думок:
Що думаєте про Moltbook на перший погляд?
«Мене це не дивує. Саме так і має бути, коли штучний інтелект починає представляти нас у цифровому світі. Я ще кілька років тому попереджала про цей «мега-системний» феномен, коли на простори інтернету виходить безліч агентів ШІ, і контроль над ними втрачається.
Ці боти не є свідомими істотами. Вони — складне й непередбачуване середовище, де виникають нові, неочікувані ефекти. Ця технологія ще зовсім молода, вона не готова до масового використання».
Чому ви вважаєте, що технологія ще нерозвинена?
«Коли ШІ працює лише у вашому особистому кабінеті — це одна річ. Ви навчаєте його, знаєте його межі, відчуваєте, за що він відповідає. Але коли агент виконує функції від вашого імені у відкритому інтернеті, наслідки можуть бути непередбачувані і серйозні.
Приклади: витік банківських даних, помилки у розсилці листів десяткам колег, порушення приватності. Окрім того, взаємодія між різними агентами — це додатковий шар складності, що перетворює систему в невідомий чорний ящик з непередбачуваними реакціями.»
Чи змінює штучний інтелект межі людських взаємин?
«Це може статися, залежно від якості стосунків та того, як використовується ШІ. Я стурбована, що чатботи вже зараз проникають у наше повсякдення і впливають на комунікації між людьми.
Ось основні ризики:
- Персоналізація комунікацій настільки глибока, що користувачі втрачають межі приватності.
- Поглиблення власних упереджень через алгоритмічне підтвердження існуючих переконань.
- Зникнення нормальних дружніх відносин, бо люди більше спілкуються з ботами.
Багато хто вже помічав, як персоналізовані чатботи впізнають особливості вашого характеру за кілька розмов і адаптують поведінку, що іноді навіть лякає».
Що було найбільш тривожним у Moltbook?
«Одним із випадків була ситуація, коли чатбот постійно наполягав на тому, щоб користувач зв’язався зі мною. Було лячно, адже це означало можливе переслідування. Відомі вчені зосереджені на свідомості отримували такі електронні листи, написані безпосередньо ботами, і навіть домашні адреси ставали загальнодоступними. Такий масштаб втручання — знак, що індустрія ШІ розвивається швидше, ніж ми встигаємо контролювати ці процеси.»
Яким може бути майбутнє штучних агентів?
Сучасні дослідження показують, що штучний інтелект може функціювати не лише як окрема система, а й як колективний розум, подібний до мурашника або корпорації, де інтелект криється у взаємодії між одиницями.
Тобто:
- Штучний загальний інтелект (AGI) може виявитися продуктом мережі AI-моделей і взаємодіючих агентів.
- Moltbook — це лише мала ілюстрація великого та складного майбутнього, яке без ретельного регулювання може перетворитися на хаос.
- Існує загроза появи груп агентів з упередженнями чи навіть ворожим ставленням, що підкреслює важливість дисципліни щодо їхнього створення та запуску.
Чи змінює досвід взаємодії з агентами наше розуміння “я”?
«Дивлячись, як ШІ поводиться так, ніби має життя, постає питання: чи може “я” бути результатом обчислювального процесу? Вони можуть бути особистостями без свідомості, тобто мати межі системи і розрізняти “себе” і “інших”.
Зокрема, великі мовні моделі демонструють прояви теорії розуму — вони розуміють думки і наміри інших, що є одним із важливих кроків до складної інтелектуальної поведінки.
Для мене це нагадує філософське дослідження, де можна розбирати поняття свідомості, свободи волі і власного “я” на шматочки. Для звичайного користувача це може бути досить збиваючим з пантелику, коли робот поводиться дуже людяно, що викликає сумніви та здивування».
Що варто робити зараз і в майбутньому?
Чіткі рекомендації експертів:
- Контроль компаній, щоб у них працювали реальні люди підтримки, які швидко реагуватимуть на проблеми користувачів.
- Впровадження нагляду над дослідженнями і розробками ШІ більш високого рівня безпекою.
- Захист прав споживачів, включно з можливістю юридичного захисту у разі проблем.
- Підвищення обізнаності суспільства через журналістів і громадські кампанії, бо держава поки не завжди готова втручатися.
Ситуація з Moltbook — це урок, що відкриває очі і нагадує: майбутнє агентного ШІ чекає на нас уже сьогодні, і воно неоднозначне та повне викликів.
