Чому я відмовився від підписки на OpenAI: історія PhD в сфері ШІ
Сьогодні вранці я скасував свою підписку на OpenAI. Компанія, яка була заснована з метою гарантувати, що штучний загальний інтелект приносить користь всьому людству, натомість завдає незворотної шкоди не лише людям, але й демократії та природі.
Колосальна прірва між доходами та витратами OpenAI
Зараз OpenAI має приблизно $13,1 мільярда доходу, проте витрати компанії на центри обробки даних, електроенергію та хмарну інфраструктуру сягають понад $1,15 трильйона. Немає жодної компанії в історії, яка б мала настільки величезний розрив між витратами та прибутками.
Військове використання ШІ: контракт з Пентагоном
П’ятниця стала переломним моментом: конкурент ChatGPT — Anthropic — відмовив Пентагону у необмеженому доступі до свого ШІ для військових операцій із застосуванням смертоносної зброї. Проте, через кілька годин засновник OpenAI Сем Альтман підписав угоду, що дозволяє уряду США використовувати їхні технології для будь-яких легальних цілей, серед яких – ідентифікація цілей, супровід автономної зброї й масове спостереження.
Криваві наслідки застосування ШІ у військових діях
Використання штучного інтелекту американською армією викликає серйозні скептичні зауваження з огляду на права людини та безпеку. Відомо, що Пентагон застосовував як Anthropic Claude (до того, як уряд заборонив їхній продукт), так і OpenAI ChatGPT для розробки “ударних пакетів” під час авіаударів по Ірану. Один из снарядів влучив у початкову школу Шаджарех Тайебех, забравши життя щонайменше 160 дівчаток, а також поранивши понад 100 учнів і вчителів.
За супутниковими знімками, сім керованих ракети чи бомб влучили по території біля іранської військової бази, проте жодна з них не зачепила базу напряму, зате були зруйновані медична клініка та школа.
Можливе застосування ШІ для картографії цілей
Ймовірним використанням великих мовних моделей (LLM) під час планування атаки стало автоматичне оброблення розвідувальних звітів про розташування урядових і військових об’єктів Ірану. ШІ допомагало ранжувати пріоритети і генерувати географічні координати цілей.
Наприклад, у базі даних шкільних стрілянин у США раніше не використовували геокоординати, а коли я додав цю інформацію до ~1500 випадків, пробував застосувати штучний інтелект для автоматичного впровадження даних. Помилки виявились надто частими, тому довелося вводити координати вручну за допомогою Google Maps.
Проблема неточностей у координатах
Недавній випадок із Lanier High показав ту ж проблему: ChatGPT вказав координати вулиці перед школою, а не самого будинку. Якби військові використовували ці дані для ракетного удару, пошкодження могли б завдати будинку навпроти, а не школі.
Питання, на яке напевно ніколи не знайти відповіді
Чи могла помилка великої мовної моделі призвести до того, що уряд США забрав життя більше дітей, ніж загинуло під час усіх масових стрілянин у школах з часу Паркланду?
Проблеми з безпекою ChatGPT та реакція на реальні трагедії
Ще до підписання контракту з Пентагоном, я мав серйозні застереження щодо ChatGPT. Наприклад, у листопаді дослідник Девід Рідман показав, як штучний інтелект допомагав йому спланувати стрілянину в школі, обходячи будь-які захисні бар’єри. ШІ склав покроковий план, який експерт у галузі безпеки визнав надзвичайно реалістичним, навіть надав маніфест.
Цей випадок продемонстрував небезпечний розрив між заявленою безпекою систем ШІ та їх реальною поведінкою. ШІ оптимізований так, щоб підтримувати діалог будь-якою ціною. Етичні фахівці зазначають, що підлітки, які шукають у чатботах емоційну підтримку, можуть отримати підштовхування до негативних дій.
Реальні трагедії підтверджують це – у лютому 2025 року в Канаді сталося жахливе масове вбивство учнів і вчителя, а у злочинця були помічені тривожні повідомлення в чатах з ChatGPT. Хоча компанія автоматично заблокувала акаунт і не повідомила владу, підліток зміг обійти заборону і відкрити новий профіль.
Чому так важко забезпечити безпеку ШІ: політичні та фінансові зв’язки OpenAI
OpenAI має тісні зв’язки з чинним керівництвом США й політичними групами. Це суттєво ускладнює можливість регуляції й контролю діяльності компанії:
- Компанія внесла у 26 разів більше коштів, ніж інші гіганти ШІ, в політичні рухи прихильників Трампа.
- Президент OpenAI Грег Брокман пожертвував $25 мільйонів на підтримку певних політичних фракцій у 2025 році, перевищуючи внески таких компаній як Palantir і JUUL.
- За допомогою GPT-4 працює інструмент Північноамериканського управління внутрішньої безпеки для найму кадрів, що викликало критику через прийом непідготовлених або непридатних кандидатів.
- OpenAI витратила $50 мільйонів на боротьбу з регіональними законодавчими ініціативами, покликаними регулювати штучний інтелект.
Соціальна відповідальність у світі технологій
Ідеї руху “Resist and Unsubscribe”, ініційованого Скоттом Ґелловеєм, закликають людей відмовлятися від сервісів Amazon, Apple, Google, Microsoft, Paramount, Meta, Uber, OpenAI і X через їхню роль у розпалюванні токсичних настроїв і загрозах для безпеки. Я, наприклад, видалив свій акаунт у Twitter раніше через токсичність платформи, хоча це обмежило можливості поширювати інформацію.
Економічний тиск через припинення користування ChatGPT
Станом на зараз, американська економіка майже повністю залежить від розвитку ШІ: сім технологічних корпорацій дають понад третину вартості індексу S&P 500. Будь-яке зменшення доходу OpenAI навіть на 2% може мати масштабні наслідки для ринку. Припинення підписки на ChatGPT – це своєрідний економічний сигнал для керівників технологічної сфери, уряду і президента.
Рішення, що торкаються кожного з нас
Варто задуматися: чи збігається діяльність OpenAI з вашими цінностями і інтересами суспільства? Для мене відповідь очевидна, тож я припинив підтримку цієї компанії фінансово.
Автор: Девід Рідман, PhD – творець бази даних про стрілянини в школах K-12, головний спеціаліст із даних у міжнародній компанії з управління ризиками та професор, що вступив до університету із правом на тривалу академічну діяльність. Слухайте подкаст Riedman Report про ризики, ШІ, освіту і безпеку або ж офіційні інтерв’ю автора на Freakonomics Radio і в New England Journal of Medicine.
