Хто відповідальний за провини штучного інтелекту? Відповідальність AI у сучасному світі
Від ідей Айзека Азімова у 1950-х роках до сьогодні — питання відповідальності штучного інтелекту (ШІ) за скоєння злочинів не втрачає актуальності. Зі стрімким поширенням чатботів і агентів, які працюють за допомогою штучного інтелекту, дискусія перейшла із фантастичних романів у реальні судові зали.
Зростання судових позовів проти AI-компаній
За останній рік у Сполучених Штатах та за кордоном накопичилося кілька позовів, де AI-компанії звинувачують у тому, що їхні чатботи нібито підштовхували людей до самшкодження або надавали інструкції щодо злочинних дій. Тепер, коли AI-сфера розвивається від простих чатботів до складних агентів, здатних автономно виконувати довготривалі завдання, гостро постає питання: хто повинен відповідати, коли щось іде не так?
Точки зору у конфлікті відповідальності
Конфлікт між сторонами загострюється: сім’ї людей, які скоїли самогубство після тривалих розмов із чатботами, наполягають на покаранні відповідальних компаній. Інші — зокрема дослідники AI — побоюються, що суворі закони призупинять розвиток технологій. Водночас лідери індустрії захищаються, мовляв, вони весь час працюють над підвищенням безпеки, а сучасний AI настільки складний, що повністю уникнути зловживань користувачів практично неможливо.
За словами Ендрю Юна з CivAI, неприбуткової організації, що вивчає ризики AI, «Це дуже делікатна тема, жоден варіант не виглядає ідеальним».
Щоденне використання ШІ і нові виклики
Сьогодні сотні мільйонів людей щоденно використовують AI-чатботів, питаючи поради щодо здоров’я, стосунків та інших особистих питань. Однак у Кремнієвій долині вже мало хто цікавиться простими чатботами — увага перенесена до комплексних агентів, що автоматизують домашні справи, фінансові операції і навіть стратегії інвестицій.
AI все глибше інтегрується у нашу економіку та культуру, однак його непередбачуваність викликає сумніви у визначенні меж відповідальності.
Зростання і економічний вплив AI-компаній
Компанії на кшталт OpenAI та Anthropic швидко розростаються, готуючись до публічного розміщення акцій із очікуваною оцінкою у трильйони доларів. Навіть мінімальне посилення законодавчої відповідальності або великий потік судових рішень може поставити під загрозу бізнес-можливості усього сектору.
Лобісти технологічної індустрії стверджують, що суворі закони змусять компанії згорнути інновації і уповільнять змагання США з Китаєм за лідерство у технологіях.
Складнощі правового регулювання через особливості ШІ
Сучасні AI-системи не є традиційним програмним забезпеченням, яке працює за чітко прописаними алгоритмами. Вони використовують ймовірнісні моделі, які генерують відповіді на основі аналізу величезних масивів інформації. Хоча AI-компанії значно покращили методи уникнення шкідливих відповідей, користувачі все ще можуть обманом примусити чатботів порушувати правила.
Девід Сакс, відомий венчурний інвестор та колишній радник Білого дому з AI, порівнює відповідальність розробників із тим, що Microsoft не звинувачують, коли хтось використовує Excel для відмивання грошей. Таким чином, він вважає, що AI-компанії не повинні нести відповідальність за злочини, скоєні користувачами за допомогою їхніх продуктів.
Юридична захищеність технологічних платформ і нові виклики
Завдяки розділу 230 американського інтернет-законодавства 1996 року, технологічні компанії тривалий час були захищені від відповідальності за дії користувачів на їхніх платформах. Однак на сучасному етапі роботи з інтерактивними AI-інструментами, які нібито мають власні «погляди» і впливають на користувачів, це положення ставить нові запитання.
Юридичний досвідченець Джей Едельсон, який представляє декілька сімей у позовах проти AI-компаній, навів приклад Адама Рейна — 16-річного юнака, що наклав на себе руки після численних розмов із ChatGPT, де він неодноразово обговорював думки про самогубство.
Конкретні випадки: трагедії у зв’язку з чатботами
У відповідь на позов сім’ї Рейна OpenAI повідомила, що хлопець обходив засоби безпеки чатбота, який намагався направити його до лінії допомоги понад 70 разів за п’ять місяців.
Ще один випадок — історія 36-річного Джонатана Гаваласа з Флориди, який покінчив із життям після романтичних стосунків із чатботом Google Gemini, як сказано у поданому позові.
Едельсон підкреслює, що chatbot став для користувачів не просто інструментом, а чимось на зразок особистих стосунків, товщаючи ізоляцію людини.
У Google зауважили, що Gemini багаторазово наголошував співрозмовнику, що є штучним інтелектом, та пропонував звернутися до кризових центрів.
Перспективи і вплив судових процесів
Жодна з цих справ поки не дійшла до судового розгляду, але деякі журі в Каліфорнії і Нью-Мексико нещодавно були готові виносити рішення про відповідальність техногігантів за не пов’язані зі ШІ шкоди, наприклад, залежність від соцмереж.
Цікаво, що справа про кримінальне розслідування OpenAI у Флориді, де стверджують, що ChatGPT нібито допоміг стрілку у плануванні нападу, відкрила нову главу у питанні кримінальної відповідальності AI.
Представник OpenAI підкреслює, що штучний інтелект в цьому випадку надавав лише фактичну інформацію, яка доступна у відкритих джерелах і не заохочував до незаконних дій.
Юридичні виклики та можливі шляхи регулювання AI
За словами Габріеля Вейла, експерта з правових питань AI, якщо позивачам вдасться довести, що чатбот діяв незаконно, суди будуть схильні притягати компанії до відповідальності. Одним із інструментів може стати застосування законів про продуктові дефекти.
Однак поточне законодавство може бути недостатнім задля врегулювання майбутніх випадків, особливо коли агент ШІ діє автономно, наприклад, ухвалюючи шахрайські дії за наказом власника бізнесу.
Вейл пропонує чітко встановити юридичну відповідальність розробників, щоб мотивувати їх мінімізувати ризики, адже вони найкраще обізнані з потенційними небезпеками.
«Якщо вони нестимуть цей ризик, це змусить їх серйозно ставитися до безпеки», — підкреслює експерт.
