Новий скандал: адвокат із Нью-Мексико подав апеляцію з неправдивими свідченнями, створеними ChatGPT
Адвокат зі штату Нью-Мексико вирішив використати штучний інтелект для підготовки апеляції свого клієнта, засудженого за вбивство. Однак його звернення до суду виявилось наповненим вигаданими фактами — фальшивими свідченнями поліцейських та свідків, створеними з допомогою чатбота ChatGPT.
Проблема з використанням штучного інтелекту в юриспруденції
Головний герой цієї історії, адвокат Стівен Ааронс, отримав покарання у вигляді штрафу в 5 тисяч доларів за використання OpenAI ChatGPT для створення апеляційної доповідної записки. Вищий суд Нью-Мексико зазначив, що документ містив цілковито сфабриковані свідчення, включно з описом злочину, де стрілець нібито був у темних штанах і білому светрі.
Сам адвокат визнав, що застосовував чатбот для короткого викладу деталей судового процесу, але стверджував, що не знав про схильність цієї технології до “галюцинації” — генерації неправдивої інформації.
Пояснення адвоката та реакція суду
Він заявив:
- «Я щиро шкодую та сподіваюся, що дисциплінарна комісія розгляне це як чесну помилку»;
- «Це урок для всіх професіоналів, які використовують цю потужну, але вразливу технологію».
Попри це, вищі судді штату відзначили відсутність каяття у адвоката та недостатньо серйозне ставлення до інтересів клієнта, коли той покладався на штучний інтелект у юридичній справі.
Скандальне слухання та майбутні наслідки
Під час слухання 21 серпня судді з недовірою сприйняли запевнення, ніби адвокат не усвідомлював можливі обмеження AI. Суддя К. Шеннон Бейкон звернулася до нього з серйозними запитаннями:
- «А ви дивитеся новини?»
- «Чи слухаєте радіо?»
- «Чи читаєте взагалі щось про те, що відбувається у світі?»
Вона наголосила, що проблема помилкових фактів, згенерованих юристами з допомогою штучного інтелекту, є надзвичайно актуальною та регулярно потрапляє у заголовки новин.
Окрім штрафу, Спілка адвокатів штату направить справу Стівена Ааронса на додаткове розслідування до дисциплінарної комісії.
Передісторія справи
Стівен Ааронс веде приватну практику у місті Санта-Фе. Зокрема, він працював над апеляцією Оскара Рене Сандовала, якого минулого року засудили до довічного ув’язнення за вбивство матері його дітей. Сандовал раніше відкидав усі звинувачення.
Вже 2 вересня апеляція була передана державному захиснику Кім Чавес Куку, яка тепер продовжить справу.
Що варто знати про ChatGPT і юридичну практику
- ChatGPT може створювати реалістичний, але не завжди правдивий текст;
- Автоматизація судових документів може призводити до серйозних помилок, якщо не перевірена фахівцем;
- Юридична відповідальність за достовірність інформації в документах лежить на адвокатах.
Цей випадок ще раз підкреслює, наскільки важливо критично ставитись до штучного інтелекту та не покладатися на нього без ретельної перевірки, особливо у таких відповідальних сферах, як право.
