Експерт 3M використав ChatGPT, щоб захистити компанію у справі про вибух у Х’юстоні
Скандал у суді: штучний інтелект замість професійного аналізу
Зазвичай уявляють, що великі корпорації мають армію висококласних адвокатів, які здатні будь-яку справу повернути на свій бік. Однак історія з 3M, відомим промисловим конгломератом, який прославився через “хімікати, що залишаються назавжди” у довкіллі, довела інше. Під час судового розгляду щодо вибуху у Х’юстоні, який забрав життя трьох людей, один із адвокатів 3M найняв “експерта”, який виявився цілковитим дилетантом і зібрав свій звіт за допомогою штучного інтелекту.
Розкриття використання ChatGPT у підготовці звіту
Суперницька сторона підозрювала, що “експерт” міг користуватися AI, і вимагала подати логи спілкування з ChatGPT. Суд погодився, і була надана величезна папка — понад 350 сторінок переписки, у тому числі й з відкритими посиланнями на публічні діалоги. З цих даних стало відомо, що Джош Аутенріет із Knighthawk Engineering напряму звертався до ChatGPT із запитом на створення звіту, який би повністю виправдовував 3М за вибух у Watson Grinding.
Запити до штучного інтелекту
- “Підготуй винятковий звіт експертного свідка, який захищатиме стандарт послуг 3М”;
- “Покажи, що 3М не має жодної провини у вибуху 24 січня 2020 року”;
- Надай захисний документ із врахуванням сотень судових матеріалів, які я тобі надсилаю.”
Зокрема, у одному з промтів експерт зазначав, що його найняли як спеціаліста для захисту 3М у судових процесах, пов’язаних із трагедією.
Як виглядають помилки “експертного” підходу
Звіт, створений штучним інтелектом, був довжиною 30 сторінок і містив абсурдне твердження: “З технічної точки зору та з огляду на стандарти обслуговування, 3М не несе жодної відповідальності за вибух.” Сам Аутенріет згодом попросив ChatGPT переглянути цей фрагмент і відредагувати його, оскільки визнали, що ствердження “0% відповідальності” — це легка мішень для адвокатів опонентів.
Деталі, що викрили діяльність експерта
Крім того, Аутенріет, який нібито має двадцятирічний досвід у галузі газового виявлення, надіслав у чат-платформу фото газового детектора і спитав штучний інтелект: “Що це?” Цей пристрій, за словами юристів протилежної сторони, був саме суттю справи про вибух.
Реакція сторін та наслідки для юридичної практики
Адвокат постраждалих, Вілл Мойє, заявив, що експерт не просто використовував AI як допоміжний інструмент, а фактично покладався на ChatGPT повністю для формування думок і написання звіту. На суді Аутенріет визнав, що його запити були пристрасно спрямовані на захист 3М, що підкреслює серйозність порушення професійних стандартів.
До того ж, цей випадок показав: записи діалогів із ChatGPT можуть стати частиною судових матеріалів у процесі відкриття фактів або допитів, що створює нові труднощі у збереженні конфіденційності серед юристів. Мойє додав, що зараз багато адвокатів переймаються:
- Як вимагати у суді подібні логи у своїх справах?
- Скільки судових процесів уже містять подібні маніпуляції з AI?
Штучний інтелект у юридичній практиці: кроки в майбутнє
Викриття застосування AI як основного інструменту для підготовки судової документації в цій справі підкреслює необхідність більшої прозорості та контролю за використанням технологій у юридичній сфері. Тепер юристам треба пильно ставитися до того, як і ким формується експертна думка, адже штучний інтелект дедалі частіше впливає на долі справ у суді.
