Шок у суді: експерт із 3M використовував ChatGPT для написання звіту про вибух у Х’юстоні
У надзвичайно резонансній справі, пов’язаній із вибухом на виробництві в Х’юстоні, що забрав життя трьох людей і знищив близько 200 будинків, експерт-свідок виявився тісно пов’язаний із штучним інтелектом. Цей чоловік, найнятий великим промисловим конгломератом 3M, використовував ChatGPT для створення значної частини свого експертного звіту, і що ще цікавіше — оприлюднив свої підказки (промпти) для штучного інтелекту.
Як саме ChatGPT допомагав у створенні експертного звіту
Загалом, чимало матеріалів із судового процесу продемонстрували, що Autenrieth, інженер з Knighthawk Engineering, просив ChatGPT:
- створити «винятковий експертний звіт на захист стандартів 3M»;
- показати, що 3M не несе жодної вини (0%) за вибух на Watson Grinding;
- відкинути звинувачення, що компанія недостатньо обслуговувала систему виявлення газу.
Підказки супроводжувалися додаванням сотень судових документів, які алгоритм обробляв для формулювання позиції захисту 3M.
Що це означає для сучасної судової практики?
Цей випадок яскраво показує, що штучний інтелект вривається у світ правосуддя не лише у вигляді згенерованих юридичних документів або плутаних фактів, а й через безпосередній вплив на експертні свідчення. Окрім цього, під час відкриття справи протилежній стороні стало відомо про обсяг і зміст чатів із ChatGPT, які тепер можуть вважатися доказовими матеріалами або навіть приводом для сумніву в об’єктивності експерта.
Особливості цього інциденту:
- П’ятисторінковий документ «Citation Overlay» виявили під час відкриття матеріалів;
- 350 сторінок діалогів із ChatGPT — вивчені юристами;
- розкриття вартості послуг спеціаліста — $475 за годину, а загалом близько $90 000;
- безпосереднє підтвердження експертом використання ChatGPT на засіданні;
- виконання уточнень і правок у звіті через діалог із штучним інтелектом навіть у пробках;
- несприятливі моменти керування змістом — наприклад, фраза «0% відповідальності» була виключена, бо автомат рекомендував уникати вигляду адвокатської позиції.
Про вибух на Watson Grinding та судові суперечки
Подія сталася в 2020 році на виробничому майданчику Watson Grinding у Х’юстоні, коли «зношений та неправильно зафіксований гумовий зварювальний шланг» спричинив витік легкозаймистого газу, що згодом призвів до детонації. Ряд позивачів, серед яких постраждалі мешканці прилеглих районів, подали судові позови до 3M і Watson Grinding, звинувачуючи компанії у халатності, зокрема щодо недостатнього обслуговування системи виявлення газу.
Деталі ролі експерта Josh Autenrieth
Autenrieth був найнятий 3M, щоб підготувати захисний експертний звіт. Юрист позивачів, Will Moye, помітив підозрілі елементи у документі та домігся надати всі підказки, використані з ChatGPT. Під час судового допиту експерт відкрито визнав значну залученість ШІ у підготовку матеріалів, а також те, що його команди були спрямовані на те, щоб допомогти 3M виграти справу. Moye навіть викликав Autenrieth як свого свідка, щоб висвітлити цей факт перед журі.
Реакція та наслідки для правової сфери
Цей випадок став прецедентом і показав:
- проникнення штучного інтелекту у найвідповідальніші судові процедури;
- можливість отримання у супротивної сторони повних чат-логів із ботом у рамках відкриття документів;
- важливість ретельного контролю за тим, як експерти користуються технологіями при підготовці своїх висновків;
- неоднозначність ролі штучного інтелекту в формуванні думок, що впливають на людські життя та сотні мільйонів доларів відповідальності.
Цікаво, що хоча Autenrieth і визнав користування ChatGPT, він наполягав на власному досвіді у галузі газової безпеки понад 20 років. Однак у судовому процесі погоджувався, що близько 85–90% його звіту було створено саме завдяки штучному інтелекту.
Інші відомі випадки використання AI в судах
Подібні інциденти вже відбувалися в світі, але поки що переважно за кордоном:
- у Франції — адвокат застосовував AI для аргументації зливових вод, але доказ визнали недійсним;
- у Канаді — AI створював думки щодо причин шкідників у житловому комплексі, суд не надав цьому ваги;
- в інших випадках — суди підкреслювали, що експертні свідчення мають надавати особи з відомими кваліфікаціями і реальними знаннями, а не автоматизовані системи.
Відшкодування та подальші процеси
Журі в цій справі присудило позивачам понад 61 мільйон доларів, при цьому 30% відповідальності поклали на 3M, а 70% — на Watson Grinding. Раніше постраждалі отримували компенсації понад 150 мільйонів доларів за іншими рішеннями, а нові судові слухання ще тільки починаються.
Компанії 3M, інженер Autenrieth та Knighthawk Engineering наразі не надали коментарів з приводу цього інциденту.
