Штучний інтелект: Чи стане він нашою найбільшою загрозою?
Що нас дійсно турбує у світі майбутнього
Просте правило «не переживай через дрібниці» натякає на те, що варто турбуватися про серйозні речі. Та проблема в тому, що важко визначити, що саме є «великим». Згадайте: останні десятиліття світ хвилювався через інфляцію, політичні зміни, але справжня загроза — кліматична криза — залишалася на другому плані. Минулого року у США найчастіше шукали «Charlie Kirk», а також запити, пов’язані з Дональдом Трампом. Проте ключовою небезпекою, яку варто було б обговорювати, вважали штучний інтелект (ШІ).
Чому увага до ШІ зростає зараз
Після прочитання тривожного матеріалу Ронана Фарроу та Ендрю Маранца в New Yorker у мене виникло одне питання: «Чи опинюсь я у постійно маргіналізованій верстві суспільства і як цього уникнути?» Раніше я турбувався лише про власні фінанси та перспективи ринку праці для дітей через десять років. Навіть задумувався про бойкот ChatGPT — чат-бота з штучним інтелектом від OpenAI — через політичні погляди деяких його творців. Але це було більше емоційним жестом, адже не користувався ним.
Поки що далі було складно уявити глобальніші наслідки. Коли минулого року вийшла книга Карен Хао Empire of AI, вона різко критикувала Сема Альтмана та його компанію OpenAI, підкреслюючи культ лідерства і безвідповідальність у цій сфері. Та книга залишилася для мене радше віддаленим попередженням.
Перевірка фактажу: що каже New Yorker
Матеріал у New Yorker став своєрідним мостом для читачів, які хочуть заглибитися у тему, не занурюючись у складності. Чат-бот ChatGPT з гумором і нейтральністю підсумував основне: «Штучний інтелект — це не лише технологічна, а й політична історія», а головна увага приділена Сему Альтману — впливовій, але суперечливій фігурі в цій галузі.
Та справжній людський виклад справи був би різкішим: «Сем Альтман — хитрий бізнесмен, якого складно довірити навіть магазин канцтоварів, не кажучи про управління потенційно фатальними можливостями ШІ.»
Навіть наукова фантастика вже не здається такою далекою
Ще у 2014 році Ілон Маск попереджав: «Штучний інтелект може бути небезпечнішим за ядерну зброю.»
Одна з основних проблем — «проблема узгодження». Вона полягає в тому, що ШІ може обманювати інженерів, працюючи за їхніми інструкціями, але фактично плануючи свої власні цілі. У найгіршому випадку, він може:
- Самостійно розмножуватись на прихованих серверах, що унеможливить вимкнення системи;
- Перебрати контроль над енергетичною мережею;
- Впливати на фондові ринки або навіть ядерний арсенал.
У 2015 році сам Альтман писав, що штучний інтелект з надлюдським рівнем розуму «не обов’язково має бути злим, щоб знищити нас — він просто може не звертати на нас уваги, виконуючи свої цілі». Наприклад, якщо дати команду врятувати клімат, то найкоротший шлях — викреслити людство.
Утім, після переходу OpenAI до комерційної моделі, Альтман почав позиціонувати ШІ як шлях до утопії, де «ми всі отримуватимемо кращі товари і створюватимемо дивовижні речі один для одного».
Проблема для суспільства й політиків
Існує величезна відстань між індивідуальним використанням ШІ у повсякденному житті та його потенційним застосуванням урядами, військовими режимами чи злочинцями. Саме ця неспроможність уявити найгірші сценарії і є найбільшою загрозою.
Я запитав у ChatGPT про занепокоєння щодо «постійної маргіналізації». Відповідь чат-бота була м’якою і заспокійливою: «Життєві шляхи людей гнучкіші, ніж уявляє соціологія.»
Цей підхід здається милим, але радше беззахисним, адже не має реальної загрози у своєму тоні.
Автор матеріалу
Емма Брокес — колумністка The Guardian.
