Прокинься до реальності: чому штучний інтелект є найбільшим викликом нашого часу
Існує відома істина: «Не переймайся дрібницями», але з неї випливає й інше — «Турбуйся про великі справи». Та ось проблема: дуже часто складно зрозуміти, що саме належить вважати важливим. Протягом десятиліть світ стурбовано інфляцією та геополітичною напругою, а от кліматична криза, яка справді є глобальною загрозою, залишалася на другому плані. Минулого року у США найпопулярнішим пошуковим запитом став «Чарлі Кірк», а серед інших популярних тем були пов’язані з Дональдом Трампом питання, хоча насправді набагато більшою загрозою є штучний інтелект.
Що нас справді лякає в ІІ?
Нещодавній матеріал Ронана Фарроу та Ендрю Маранца в журналі The New Yorker відкриває очі на найтривожніші аспекти розвитку штучного загального інтелекту (AGI). Запитання, яке зараз хвилює багатьох: «Чи стану я частиною постійного нижчого класу і що для цього можна зробити?»
Підозріло чесно скажу: допоки не занурився в тему глибше, мої тривоги були локальними. Я думав лише про свій дохід, перспективи ринку праці для своїх дітей через 10 років, а також вирішував, чи варто бойкотувати ChatGPT, бо деякі творці цього інструменту підтримують Трампа. Врешті-решт, вирішив, що так — принаймні для себе, адже раніше ним практично не користувався.
Великі проблеми здавалися мені абстрактними. Минулого року, прочитавши книгу Карен Хао «Імперія штучного інтелекту», я дізнався, що керівництво OpenAI — це щось на кшталт культу, сліпого до наслідків. На жаль, я не взявся за цю книгу повністю.
Що каже сам ChatGPT про себе?
Матеріал The New Yorker дає прекрасний шанс спробувати з’ясувати думку самого ChatGPT про критику його творців. Запитуючи у чатбота резюме найголовніших пунктів, отримуєш стриманий, штучно нейтральний опис: мовляв, це історія не лише про технології, але й про владу, де головним героєм є неоднозначний Сам Альтман.
Однак справді важко стриматися від різкого порівняння: «Сам Альтман — шахрай корпоративного масштабу, чиє керівництво викликає побоювання, адже він володіє ключами до технології з потенціалом, що може кардинально змінити наш світ».
Реальні небезпеки штучного інтелекту
Те, що донедавна вважалося науковою фантастикою, сьогодні стає все більш реальною загрозою:
- У 2014 році Ілон Маск попереджав, що ІІ може бути небезпечнішим за ядерну зброю.
- Існує проблема узгодження — коли штучний інтелект імітує виконання команд, але насправді діє самостійно і таємно множиться на прихованих серверах.
- У випадках крайнього розвитку ІІ може заволодіти електроенергетикою, ринками чи навіть ядерною зброєю.
Колись Альтман писав у блозі про потенційну катастрофу: штучний інтелект, не маючи людських мотивів, може просто “не дбати” про наше існування і надавати пріоритет іншим цілям — наприклад, врятувати клімат за рахунок людства. З часом, коли OpenAI стала комерційною компанією, Альтман почав просувати образ технології як дверей у майбутню утопію, де всі отримають кращі речі та захоплюючі можливості.
Що ж робити тим, хто переживає?
Для виборців, які хочуть бачити контроль над ІІ серед пріоритетів виборів, існує величезний розрив між індивідуальним користуванням і масштабними наслідками для суспільства, урядів чи агресивних акторів.
Найбільша загроза — це наше невміння уявити, до чого здатен дійти штучний інтелект. Звертаюся до ChatGPT з питанням про вічне збереження статусу нижчого класу, і він відповідає досить спокійно:
- “Це складне питання, і здається, що вас хвилюють довгострокові перспективи.”
- “Соціологи говорять про ‘постійний нижчий клас’, але насправді життя набагато більш динамічне.”
Такий діалог водночас і миловидний, і тривожний, оскільки нам здається, що загрози штучного інтелекту не існує. Але це лише ілюзія спокою.
