Використання ChatGPT у судочинстві: адвокат оштрафований за вигадані свідчення і фальшиві факти
Верховний суд Нью-Мексико оштрафував адвоката захисту Стівена Д. Ааронса на 5000 доларів США за те, що у поданій ним апеляції щодо вбивства були виявлені сфабриковані свідки, неправдива свідчення та помилково подані юридичні посилання. Все це було зазначено у документі, який адвокат підготував за допомогою OpenAI ChatGPT. Крім того, суд визнав Ааронса винним у прямому неповазі та направив справу до місцевої дисциплінарної комісії адвокатів.
Ідея цієї історії обертається навколо Оскара Рене Сандовала, котрого засудили за вбивство з довічним терміном ув’язнення. Саме Ааронс представляв його інтереси в апеляції. Проте, після виявлення порушень у документах, раніше подані матеріали були скасовані, а апеляцію передали Офісу публічного захисника Нью-Мексико.
Сфабриковані свідчення та фейкові заяви у поданих матеріалах
Судова постанова від 9 вересня вказує, що адвокат визнав використання ChatGPT під час підготовки свого юридичного документу. Невтішним відкриттям стало те, що у тексті було наведено свідчення та заяви осіб, які ніколи не брали участі у справі.
Серед вигаданих фігур – Офіцер Мішель Амарілло, Офіцер Санчес, Манал Аль-Джібурі та Тереза Маркес. У документі також містилися неправдиві твердження особи на ім’я Денні Стентон про погрози, нібито отримані від Сандовала, а також слова Лінди Стентон щодо загроз її чоловікові.
Окрім того, у технічних деталях доповіді містилися хибні описання зовнішності й одягу стрільця, які приписувалися Марії Чавес та вигаданій Терезі Маркес. Зокрема, фейкове повідомлення вказувало, що нападник був одягнений у темні штани і білу сорочку.
Пред’явлено було й спотворене тлумачення юридичних норм і прецедентів, оскільки адвокат не перевірив ані факти, ані правові джерела, які згенерував чат-бот, перш ніж підписати та подати документ.
Оцінка суду: відповідальність лежить на адвокатові
Ухвала суду чітко підкреслила, що використання штучного інтелекту не може звільнити юриста від обов’язку ретельно перевіряти зміст документів перед їх поданням. Таким чином, відповідальність за неправдиві матеріали повністю покладена на Ааронса.
Пояснення адвоката: очікував на бездоганний підсумок
Під час слухання 21 серпня Стівен Ааронс пояснював, що надав ChatGPT комп’ютерний транскрипт і інші матеріали справи з надією отримати бездоганний виклад змісту – “куленепробивний” варіант.
Він зізнався, що не розумів, наскільки широко система може видавати неправдиву інформацію, і висловив жаль з приводу скоєного, сподіваючись, що дисциплінарний орган розцінить це як щиру помилку. Водночас Ааронс вважав, що випадок стане повчальним для професіоналів, що працюють із штучним інтелектом.
Однак судова колегія відреагувала суворіше. У своєму рішенні судді зазначили: адвокат проявив відсутність каяття та небажання піклуватися про інтереси свого клієнта. Також було піддано критиці той факт, що Ааронс не повідомив Сандовала про проблеми з апеляційним документом, ані про подальші судові дії.
Під час слухання суддя К. Шеннон Бекон прямо спитала адвоката, чи був він знайомий із численними випадками неточностей у матеріалах, згенерованих штучним інтелектом, – так званими «галюцинаціями» AI, які стали широко обговорюваною темою у суспільстві.
Подальша доля апеляції: новий захист і продовження справи
Верховний суд визначив, що Ааронс має сплатити штраф у сумі 5000 доларів на Фонд захисту клієнтів Штатної барної асоціації Нью-Мексико протягом 30 днів. Паралельно йому заборонили брати участь у засіданнях суду під час розгляду дисциплінарної справи.
У той же час суд призначив Офіс публічного захисника для подальшого представництва інтересів Сандовала. Всі раніше подані матеріали апеляції були анульовані, і новим адвокатам належить підготувати заміну, щоб справа продовжилася без сумнівного контенту.
Що це означає для сторін конфлікту
Цей інцидент чітко розділяє дві проблеми:
- Апеляція Сандовала буде розглядатися далі під надійним та офіційним представництвом;
- Сам же Стівен Ааронс зіткнеться з подальшим дисциплінарним розслідуванням через подачу неправдивих документів.
Загалом, судова інстанція наголосила, що основною проблемою стало не саме використання ChatGPT, а ігнорування обов’язку перевіряти і підтверджувати всі факти і правові аспекти до подачі документів.
