Юрист оштрафований за використання штучного інтелекту для фальшивих свідчень у суді
Інцидент із підробленими даними, створеними ChatGPT
Новомексиканський адвокат зіткнувся з серйозними наслідками через подання до суду документа, який містить вигадані свідчення та свідків, створених за допомогою штучного інтелекту ChatGPT від OpenAI. Найвищий суд штату ухвалив утримати Стефена Ааронса в неповазі за недостатню перевірку достовірності судового подання.
Судовий штраф і дисциплінарні заходи
За словами суду, документ містив неправдиві свідчення «повністю вигаданих свідків».
Судді також відзначили:
– відсутність у адвоката каяття;
– байдужість до інтересів свого клієнта.
У результаті Ааронс отримав штраф у розмірі $5000, а матеріали справи було передано для розгляду в адвокатську дисциплінарну комісію.
Пояснення адвоката та ризики технологій ШІ
Сам правник пояснив, що використав ChatGPT для підготовки короткого викладу судового процесу, коли взявся за апеляцію клієнта минулого року. Водночас він не усвідомлював, наскільки ненадійним може бути штучний інтелект у генерації фактів.
«Я шкодую про помилку і сподіваюся, що дисциплінарна комісія врахує, що це було щире непорозуміння. Це урок для всіх, хто працює з цією потужною, але іноді непередбачуваною технологією», — зазначив Ааронс.
Зростаюча хвиля проблем із застосуванням ШІ у судочинстві
Подібні випадки вже не поодинокі. Судді на різних рівнях почали карати юристів за незважене використання штучного інтелекту у процесуальних документах.
До основних проблем, що виникають, належать:
1. Вигадані посилання на судові справи;
2. Неправильне тлумачення законодавства;
3. Навіть повністю сфабриковані свідчення, що впливають на резонансні справи.
Ааронс же пішов далі, включивши у свою апеляцію вигадані свідчення у кримінальній справі.
Деталі справи та подальші кроки
Цей приватний юрист із Санта-Фе працював над апеляцією Оскара Рене Сандовала, якого визнали винним у вбивстві матері його дітей і засудили довічно. Провадження з апеляції ще триває й наразі передано новому публічному захиснику Кім Чавес Кук, котра відмовилася від коментарів.
Також представники окружної прокуратури округу Донья-Ана утрималися від заяв.
Розслідування суду та відкриття фактів
Минулого місяця Верховний суд штату наказав Ааронсу пояснити, яким чином до його документа потрапили фантастичні деталі, зокрема свідчення про те, що стрілець був у темних штанах та білій сорочці.
Під час слухань 21 серпня адвокат визнав, що передав у ChatGPT комп’ютерно створений транскрипт та інші матеріали, очікуючи, що той створить “непорушне резюме”.
Судді виразили недовіру до аргументів про незнання Ааронса про неспроможність ШІ.
Попередження від суддів щодо використання ШІ
Суддя К. Шеннон Бекон гостро наголосила:
— Ви дивитесь новини? Чуєте радіо? Читаєте про події у світі? Проблема з юристами, які довіряють вигадкам ШІ, щоденно на передовиці газет.
Цей випадок демонструє, наскільки обережним слід бути з новими технологіями у законодавчій сфері, адже наслідки можуть бути надзвичайно серйозними, включаючи юридичні санкції й підірвану довіру до судових процесів.
