Адвокат звинувачений у використанні вигаданих свідків, створених ChatGPT, під час захисту вбивства
Юрист зі штату Нью-Мексико потрапив у гучний скандал після того, як судді виявили, що він подав до суду документи з повністю сфабрикованими свідками і показаннями, створеними штучним інтелектом ChatGPT. Правник, який представляв обвинуваченого у справі про вбивство дружини, визнав свою провину і пояснив ситуацію власною «недалекоглядністю».
Що трапилось насправді?
У серпневому слуханні перед п’ятьма суддями адвокат Стівен Д. Ааронс зізнався, що розраховував на те, що ChatGPT видасть йому “безпомилковий виклад справи”. Проте, як з’ясувалося, цей інструмент створив хибні дані про свідків та свідчення, що ніколи не існували, серед яких — людина на ім’я Денні Стентон, яка ніби-то отримувала погрози, та його дружина Лінда Стентон, що підтверджувала ці погрози.
Також у викладених матеріалах помітили неправдиві деталі про одяг та зовнішній вигляд стрільця. Згідно з розпорядженням Верховного суду Нью-Мексико, адвокат відмовився повідомити свого клієнта про використання ChatGPT, посилаючись на те, що той ув’язнений довічно і говорить іспанською мовою.
Судове розслідування та критика
Як зазначили судді, випадок Ааронса викликав неабияке занепокоєння. Він був звинувачений у прямому неповазі до суду та направлений до Дисциплінарної комісії для подальшого розгляду. Тимчасово його відсторонили від участі у справі, а клієнту призначили державного адвоката.
У ході слухань судді вказали на безпечність та нерозважливість використання ШІ-помічників, особливо з огляду на вже численні випадки подібних помилок у юридичній сфері. Один із суддів спитав Ааронса, чи він слідкує за новинами, адже проблеми з “галюцинаціями” ШІ є головною темою в медіа щодня.
Реакція адвоката
Сам Ааронс визнав свою провину, назвавши це «чесною помилкою» і сподівається, що дисциплінарна рада це врахує. Він також розповів, що його мотивом був приклад із медичної сфери, де лікарі застосовують штучний інтелект для наукових досліджень, і тому він довірив цій технології.
Проблеми із застосуванням ШІ у юридичній практиці
Невдалі спроби використання штучного інтелекту юристами стають системною проблемою:
- Нереальні свідки, створені ШІ, які вводять суд в оману.
- Забуття перевіряти інформацію, що підвищує ризики помилок у судових документах.
- Повторні випадки санкцій та звинувачень у недбалості.
Схожі інциденти стаються не лише серед адвокатів, але й серед судових репортерів, що теж почали подавати документи з помилками, породженими штучним інтелектом.
Відповідальність і майбутнє
- Судова гілка вимагає підвищеної уваги та перевірки таких технологій у сфері права.
- Юридичні фахівці змушені навчатися правильно користуватися штучним інтелектом, уникаючи ризиків “галюцинації” даних.
- Дисциплінарні органи посилюють контроль і накладають штрафи — у випадку Ааронса це було 5000 доларів на користь Фонду захисту клієнтів.
Так, інцидент із нью-мексиканським адвокатом — це черговий дзвінок усім професіоналам, які прагнуть використовувати сучасні інструменти, щоб не шкодити справам і довірі клієнтів. Кожен, хто бере на озброєння штучний інтелект, повинен пам’ятати: без ґрунтовної перевірки — це дуже небезпечно і загрожує кар’єрі та людським життям.
