Як штучний інтелект призвів до фальшивих свідчень у суді: історія одного адвоката
Фальшиві свідчення у апеляції
Суд жорстко відреагував на подачу документів, які містили “фальшиві свідчення від повністю вигаданих свідків”. Крім цього, адвокат Ааронс отримав критику за “відсутність каяття та нехтування інтересами свого клієнта”.
Використання ChatGPT та незнання ризиків
Ааронс, приватний адвокат зі Санта-Фе, зізнався, що звернувся до ChatGPT для підсумовування ходу судового процесу, коли вирішив взятися за апеляцію Оскара Рене Сандовала минулого року. Він розповів Reuters, що не усвідомлював, наскільки штучний інтелект може “галюцинувати” вигадані факти.
Наразі апеляція залишається відкритою і від 2 вересня її веде Кім Чавес Кук, державний захисник Нью-Мексико. Офіс окружного прокурора округу Дона Ана відмовився від коментарів.
Питання судді та реакція адвоката
На слуханні 21 серпня суддя К. Шеннон Бейкон наполягала, чи був Ааронс обізнаний про ризики помилок, створених штучним інтелектом. Вона питала: “Чи ви дивитесь новини? Слухаєте радіо? Читаєте про події у світі?”.
Суддя також підкреслила, що це проблема, яка кожного дня потрапляє в основні новини, і засумнівалася, чому Ааронс не перевірив матеріали, створені ChatGPT, перед подачею до суду.
У заяві для Reuters Ааронс сказав: “Я шкодую про це, але сподіваюся, що дисциплінарна комісія врахує, що це була чесна помилка”. Він назвав цю історію “попередженням для всіх професіоналів, які користуються цією потужною, але інколи нестабільною технологією”.
Вищий суд штату також наказав Ааронсу пояснити, як у його основній апеляції з’явились “вимислені твердження, що стрілець був одягнений у темні штани та білу сорочку”.
Дисциплінарні наслідки та важливість випадку
Reuters визначив це рішення як черговий приклад, коли суди на штатному та федеральному рівнях карають юристів за подачу документів, створених штучним інтелектом без належної перевірки.
За інформацією Reuters, помилка Ааронса вийшла за рамки попередніх випадків, оскільки містила сфабриковані свідчення у кримінальній апеляції, пов’язаній зі справою Оскара Рене Сандовала. Останній не визнавав провину у вбивстві матері своїх дітей, проте був засуджений до довічного ув’язнення.
З моменту передання апеляції Кук 2 вересня, а також без коментарів з боку прокуратури округу Дона Ана, подальший розвиток справи залежить від рішень суду та дисциплінарних органів.
