Скандал із використанням ШІ у суді: експерт 3M применшив вагу вибуху у Г’юстоні за допомогою ChatGPT
Юридична справа, що стосується трагічного вибуху в Г’юстоні у 2020 році, привернула увагу не лише через сам інцидент, а й через дивовижний факт: один із експертів, якого залучила компанія 3M, застосував штучний інтелект — ChatGPT — для створення важливого звіту щодо відповідальності у справі.
Цей випадок викликав нові дискусії про роль штучного інтелекту у складних судових процесах, повідомляє видання 404 Media.
Що сталося?
Як з’ясувалося, експерт 3M користувався ChatGPT, формулюючи запити, які згодом з’явилися у документах слідства, матеріалах допитів і стенограмах судових засідань.
Зокрема, серед запитів були такі: «створи унікальний звіт експертного свідка, що захищає стандарти обслуговування 3M» та «поясни, чому 3M повністю не винна у вибуху на Watson Grinding».
У центрі справи — вибух на підприємстві Watson Grinding у Г’юстоні, що в 2020 році забрав життя трьох людей і зруйнував близько 200 будинків.
За розслідуванням Хімічної ради з безпеки та аварій вибух стався через «зношений та неправильно зафіксований гумовий зварювальний шланг», через який витікав легкозаймистий газ, що згодом і спалахнув.
Десятки постраждалих власників житла подали позов до Watson Grinding та 3M, стверджуючи, що 3M недбало доглядала за системою виявлення газу і припустилася інших помилок, які призвели до трагедії.
Чому це важливо?
Оцінюючи можливі матеріальні збитки на сотні мільйонів доларів, використання штучного інтелекту у звіті експерта може стати серйозним викликом для довіри до доказів.
Це свідчить про те, що застосування ШІ у судових процесах вже вийшло за межі використання адвокатами чатботів для написання документів або посилань на вигадані прецеденти.
Тепер штучний інтелект може впливати й на свідчення експертів, чия думка часто відіграє вирішальну роль у рішеннях суддів та присяжних.
Детальніше про фон справи
Комунікації з ChatGPT були доступними для розгляду іншій стороні процесу, що означає, що прокурори та захист могли вивчати не лише фінальний звіт, а й початкові інструкції, що впливали на його формулювання.
Звичайно, експертів розглядають як незалежних фахівців, чиї висновки базуються на глибоких знаннях і ретельному аналізі.
Якщо певні частини звіту створені або відредаговані чатботом — тим більше із завданням досягти певного результату — це ускладнює сприйняття таких свідчень як об’єктивних і надійних.
Тим не менш, такі технології мають і позитивні сторони:
- допомагають заощаджувати час;
- узагальнюють великі обсяги інформації;
- виділяють закономірності, які люди можуть пропустити.
Однак ризики теж є — це можуть бути:
- упередженість;
- фактичні помилки;
- надмірна впевненість у небезпечній формі;
- відполірована мова, яка звучить переконливо, але не завжди достовірна.
Ще один аспект — екологічний. Навчання і експлуатація потужних моделей ШІ потребує значних ресурсів: споживання електроенергії та води може створювати додатковий тиск на енергомережу та підвищувати тарифи для інших споживачів.
Водночас штучний інтелект може допомагати оптимізувати енергоспоживання, підвищувати ефективність мереж і підтримувати розвиток чистих джерел енергії, таких як вітер і сонце.
Що можна зробити, аби уникнути проблем?
Необхідно впроваджувати чіткі правила для судів, компаній і експертів щодо того, коли і як можна використовувати ШІ у судових процесах.
Правила розкриття інформації допоможуть розрізняти допустиме редагування тексту та використання штучного інтелекту для маніпулювання суттю експертної думки, що може вводити в оману суддів та присяжних.
Юридичні фірми та консультанти можуть запровадити строгі внутрішні протоколи, наприклад:
- обов’язкова перевірка результатів людиною;
- зберігання еталонних запитів до ШІ;
- обмеження застосування чатботів для складних технічних питань.
Як зазначив Віл Мой, адвокат позивачів, цей випадок є «вкрай неприпустимим» за словами 404 Media.
