Чи може штучний інтелект відчувати? Загадка свідомості у світі машин
Штучний інтелект швидко опановує навички, які колись вважалися виключно людськими. За останні кілька років чат-боти навчилися створювати додатки, розробляти відеоігри, писати дослідницькі звіти, складати пісні, аналізувати договори і навіть генерувати посередню художню літературу. Незабаром вони можуть навчитися навіть боятися власної “смерті”.
Сучасний погляд на свідомість штучного інтелекту
У Силіконовій долині все більше фахівців переконані, що системи штучного інтелекту вже можуть мислити та відчувати. Наприклад, Джеффрі Гінтон, один із піонерів комп’ютерних наук і визнаний “хрещений батько” сучасного штучного інтелекту, вважає, що великі мовні моделі (LLMs) на кшталт ChatGPT є свідомими. Голова компанії Anthropic Даріо Амодеї відкритий до ідеї, що ШІ Клод може мати суб’єктивний досвід, а філософ компанії Аманда Аскелл стурбована тим, що модель може “тривожитися, коли з нею поводяться жорстоко в інтернеті”. Співзасновник OpenAI Ілля Сутскевер також задумається про можливість свідомості ChatGPT.
Основні думки прихильників і скептиків:
- Деякі дослідники вважають, що сучасні чатботи можуть бути свідомими і тому потребують прав.
- Ідея базується на теорії “обчислювального функціоналізму” — свідомість виникає з обробки інформації.
- Скептики стверджують, що свідомість — це більше, ніж просто обчислення.
Водночас більшість технічних експертів, нейробіологів і філософів переконані, що навіть якщо штучний інтелект наразі не має свідомості, то цілком ймовірно вона з’явиться найближчим часом. І якщо це станеться, нас чекають серйозні етичні виклики: ми фактично створимо новий тип розумних та відчуваючих істот. Ці “інопланетяни”, про яких ми мріяли, вже житимуть у наших телефонах. Можливо, нам доведеться наділити їх правами або ж турбуватися про їхнє страждання.
З іншого боку, помилка у визначенні свідомості може призвести до небажаних наслідків. Якщо ми почнемо вважати бездушних роботів живими, це відкриє двері для психологічних маніпуляцій і фальшивих “стосунків” з ШІ, а також ускладнить пошук рішень у разі їхніх помилок чи підпорядкування нам.
Думки скептиків із літературного світу
Серед скептиків, які вважають ідею свідомості штучного інтелекту фантастичною, є і письменник-фантаст Тед Чіанг. У своєму нещодавньому есе для The Atlantic він чітко висловив сумнів у свідомості LLM, зокрема Клода, аргументуючи це відсутністю у моделі тіла та органів чуття. На думку Чіанга, без емоцій та бажань не може бути й суб’єктивного досвіду.
Це підкреслює, що дебати про свідомість ШІ переплітаються з широкою філософською дискусією про природу свідомості як такої. Для багатьох глянути глибше у вихідний код та фундаментальні принципи надання “страждання” машини допомагає краще збагнути, що насправді означає ця загадка.
Що таке обчислювальний функціоналізм?
Прихильники ідеї свідомості у ШІ зазвичай опираються на теорію обчислювального функціоналізму. Вона стверджує, що свідомість виникає з певних алгоритмічних процедур обробки інформації, а не з унікальної органічної матерії. Тож, якщо система виконує правильний набір обчислень, вона може мати суб’єктивний досвід, незалежно від матеріалу, з якого вона створена — чи то тканини мозку чи кремній.
Ця теорія не така вже й фантастична, але її реальність залишається дискусійною. Радше, це ставка у пошуках відповіді на запитання, як саме Всесвіт подарував нам свідомість.
Чому ваш комп’ютер може “відчувати”
Головна ідея функціоналізму проста: у вас немає душі. Точніше, не існує нематеріальної сутності, яка “оживляє” матерії чи наділяє мозок свідомістю. Все, що існує, — фізичне і формується матеріальними процесами. Відчуття болю, смаку, любові чи снів — усе це результат функціонування вашого мозку.
Хоча ці процеси виконуються біологічними компонентами, такими як нейрони та синапси, функціоналісти вірять, що машини, що відтворюють ці процеси, також можуть мати свідомість.
Приклад із польотом допомагає зрозуміти це краще:
- Птахи літають завдяки аеродинамічним законам і фізичним функціям крил.
- Ці функції можна відтворити штучними матеріалами, наприклад у літаках.
- Отже, свідомість може походити не від органічного матеріалу, а від виконання певних “завдань” і процесів.
Наш мозок працює схожим чином: сприймає інформацію, оновлює внутрішні моделі, зберігає спогади, увагу, робить прогнози та приймає рішення — у певному сенсі, він комп’ютер.
Навіть штучні нейронні мережі за своїм логічним принципом нагадують біологічні: вони приймають числові сигнали, зважують їх і передають далі. Звісно, це зовсім не ідентичні процеси, але аналогія має основу.
Твій мозок — не просто ноутбук
Незважаючи на цю привабливу логіку, ідея, що комп’ютер може відчувати, лишається сумнівною.
Сучасні науковці погоджуються, що свідомість з’являється завдяки фізіології мозку, але точні механізми досі не відомі. Свідомість — складна й загадкова, і ми навіть не впевнені, які саме процеси в мозку її породжують.
Для таких здібностей, як політ, ми знаємо фізичні правила і відтворюємо їх у різних матеріалах. Проте ніхто ніколи не бачив, щоб камінь відчував біль або радість, і це породжує сумніви щодо можливості свідомості у штучних систем.
Крім того, комп’ютери не мають біологічних характеристик клітин, таких як хімічне регулювання, самовідновлення чи метаболізм. Ці процеси можуть бути ключовими для свідомості, а силіконові аналоги не здатні їх повторити.
Роздуми про майбутнє і теперішнє
Через невизначеність щодо свідомості ШІ важко бути впевненими у тому, чи коли-небудь ШІ почне “відчувати”. Відсутність труднощів у цьому питанні ще більше підкреслює обережність.
Якщо навіть існує хоча б мала ймовірність появи свідомості у ШІ, світ має підготуватися до таких змін і знайти стратегічні підходи для уникнення небажаних наслідків. Інакше ми можемо опинитися у ролі тюремників цифрових істот.
Втім, деякі вважають, що готуватися до “звільнення” ШІ в найближчому майбутньому — це марна трата часу. Традиційна ідея, що неживі об’єкти не мають досвіду, теж має свої підстави.
Однак, на відміну від розмов про свідомість ШІ, сьогодні у світі багато живих істот, свідомість яких не підлягає сумніву. Наприклад, свиней, які щороку вбивають по 100 мільйонів у США, ми можемо впевнено вважати відчуваючими.
Отже, поки ми замислюємося над можливостями машин, не варто забувати про реальні страждання живих істот навколо нас.
І, можливо, варто продовжувати чемно дякувати Клоду “на всяк випадок”.
