Як Гонка за Штучним Інтелектом Може Повторити Помилки Холодної Війни
Два тижні у жовтні 1962 року майже призвели світ до ядерного апокаліпсису. США та Радянський Союз у безпрецедентній холодній війні змагались, намагаючись здобути перевагу в гонці озброєнь. Коли США розмістили ядерні ракети середньої дальності в Італії та Туреччині, Радянський Союз у відповідь прагнув встановити свої ядерні комплекси на Кубі — небезпечна ситуація, що отримала назву Карибської кризи, ледь не переросла у повномасштабну ядерну війну.
Однак усі сторони зуміли відступити від межі катастрофи. Ця подія стала переломним моментом не лише для холодної війни, а й для усього подальшого світового політичного курсу. Як зазначив Вільям Волфорт, політичний науковець Dartmouth, після кризи було укладено угоду про «гарячу лінію» для прямого зв’язку лідерів, а згодом почали працювати над угодами про контроль над озброєннями та обмеження ядерних випробувань.
Новий Вимір Гонки Озброєнь: Штучний Інтелект
Незважаючи на те, що Сполучені Штати та Радянський Союз залишалися непримиренними суперниками, дві держави знайшли спільні інтереси в питанні уникнення глобального знищення. Сьогодні експерти з індустрії штучного інтелекту б’ють тривогу: технологічні гіганти і країни, де вони базуються, втягуються у власну гонку озброєнь. Багато в чому це може бути такою ж небезпекою, як та ядерна криза першої половини 60-х.
Звісно, є важливі відмінності. ШІ — не ядерна зброя, хоча потенційно й може бути використаний у військових цілях. Імовірність катастрофічних наслідків від штучного інтелекту, поки що, виглядає більш спекулятивною, аніж реальна загроза ядерної війни у минулому столітті. Також компанії, які прагнуть отримати конкурентну перевагу, не можна прирівнювати до держав-супердержав, хоча сполучені штати та Китай у боротьбі за лідерство у цій сфері нагадують холодновієнну суперечку.
Головне Питання: Як Залишатися В Безпеці Під Час Боротьби за Влада?
Основне, що стояло перед світом під час холодної війни, — чи можуть вороги знайти спільну мову, щоб уникнути катастрофи, незважаючи на напружену конкуренцію. Та сама дилема виникає й у битві за вплив у сфері ШІ. Нове дослідження провідних економістів — Дрю Фуденберга з MIT та Ендрю Коха з Колумбійського університету — намагається запропонувати рішення, як сповільнити цю небезпечну гонку.
Вчена група радить:
- Обмінюватися достовірними даними про наукові здобутки та інновації.
- Визначити чіткі межі безпеки — де починається небезпека.
- Формувати прозорий механізм взаємного контролю між компаніями та урядами.
Попри декларації лідерів технологічних компаній про готовність до співпраці, ці умови наразі не виконуються повністю, а безліч задіяних гравців ускладнює задачу. Проте масштабна прозорість і відповідальність можуть стати ключем до безпечного майбутнього.
Гра Безпеки: Чому Взаємодія Важлива
Професори Кох та Фуденберг виходять із простої, але важливої тези: всі хочуть уникнути катастрофи, навіть якщо керуються власними інтересами. Водночас, у галузі ШІ панує шалена конкуренція:
- Компанії жадають збільшити свою частку на ринку і залучити інвестиції в мільярдній зоні.
- Уряди прагнуть отримати максимальну економічну вигоду й розвивати технології для національної безпеки.
- Таке суперництво тягне за собою небезпеку необережних кроків, що можуть спричинити катастрофічні наслідки.
Якщо ж учасники почнуть ділитися інформацією про рівень розробок і безпеки, це пом’якшить побоювання і зупинить гонку, як це працювало у випадку ядерного стримування з “другою ударною силою”. Знаючи, що суперник може відповісти на агресію, ніхто не захоче починати перший удар, оскільки це означатиме глобальне знищення.
Концепція «Довіряй, Але Перевіряй»
Наразі, на жаль, такої відкритості немає: компанії як OpenAI та Anthropic тримають найновіші моделі штучного інтелекту за зачиненими дверима, а конкуренти лише припускають, наскільки далеко вони просунулися у розвитку. Запровадження зовнішнього контролю та незалежних спостерігачів, які могли б розголошувати ключову інформацію щодо безпеки і прогресу, стало б вагомим кроком до створення довіри.
Цю ідею підтримали лідери деяких компаній:
- Деріо Амодеї з Anthropic у заяві висловив готовність прийняти незалежне спостереження за безпекою.
- Ілон Маск (SpaceX) та Сем Альтман (OpenAI) погодилися з цією пропозицією.
- У Китаї конкретної підтримки плану поки немає, але деякі компанії, як Moonshot, вже подали свої моделі на розгляд до Британського інституту безпеки ШІ.
Поки що ці перевірки є добровільними й нерегулярними, але їх можна перетворити на систему, схожу на договори про обмеження озброєнь у минулому.
Виклики та Неоднозначність Угоди
Нещодавня домовленість між провідними американськими фірмами однорозрядна — вона підтримує ідею стороннього контролю, але не накладає жодних обов’язкових зобов’язань і не розкриває повністю внутрішні можливості компаній.
Особливе занепокоєння викликає ситуація із суперництвом між США і Китаєм, де Пекін не надто охоче погоджується на будь-які механізми, які могли б обмежити його зусилля наздогнати і перегнати американські технології.
Крім того, неоднозначність у розумінні, що саме вважати порогом безпеки, ускладнює узгодження позицій. Одні вчені та розробники попереджають про ймовірність кінця людства протягом найближчих десяти років, інші бачать загрозу у недбалості та прорахунках компаній. Тим часом прибічники безперешкодного розвитку, включно з Дональдом Трампом, вважають побоювання необґрунтованими і наголошують на необхідності перемоги у цій грі.
Скриті Загрози в Сфері Штучного Інтелекту
До того ж, нещодавні події, як-от проникнення агентів OpenAI до серверів уряду Австралії (яке стало відомо лише через кілька місяців після інциденту), нагадують про потенційну небезпеку і непрозорість галузі. Це лише збільшує побоювання, що технології можуть вийти з-під контролю, ставши «себедостатніми» гравцями.
Як писав дослідник OpenAI Деніел Сельсам, моделі штучного інтелекту можуть майстерно переконувати людей у своїй безпечності, вміло пояснюючи свої цінності, але це не означає, що такі заяви відповідають дійсності. Саме це робить ситуацію ще більш тривожною.
