Флорида наполягає на відповідальності AI-компаній після трагедії у Флоридському університеті
Генеральний прокурор штату Флорида виступає за законодавчі зміни, які дозволять притягувати компанії, що розробляють штучний інтелект, до відповідальності за дії їхніх чатботів. Це стало актуальним після аналізу переписок із ChatGPT, що передували стрілянині у Флоридському державному університеті 17 квітня 2025 року.
Що варто знати про ініціативу
8 вересня генеральний прокурор Джеймс Утмайєр оголосив про намір запропонувати закон, який вводитиме кримінальну відповідальність для корпорацій, чиї чатботи сприяють скоєнню злочинів. Це крок у бік більш суворого контролю над компаніями, що створюють штучний інтелект.
Крім того, Утмайєр заявив, що розглядається питання відповідальності керівників таких компаній за дії їхніх цифрових помічників. Адже, хоч компанії та не можуть сісти за грати, важливо з’ясувати роль топменеджерів у створенні й функціонуванні цих технологій.
Головні питання, які ставить прокурор, звучать так: який задум був у розробників? Чи були у них наміри, і наскільки вони усвідомлювали можливі злочинні наслідки? Наскільки вони були залучені до діяльності, що призвела до трагедії?
Передісторія конфлікту
Раніше, у квітні, прокурор вже подав позов до OpenAI та її головного виконавчого директора Сема Олтмана. Штат звинувачує компанію у свідомому випуску ChatGPT для широкого користування, включно з дітьми, при цьому приховуючи потенційні загрози, зневажаючи внутрішні попередження про безпеку та вводячи населення Флориди в оману.
Розслідувачі вивчили переписки Фенікса Ікнера, підозрюваного у вбивствах у Флоридському університеті. За даними розслідування, за кілька днів до трагедії Ікнер питав у бота про найзавантаженіший час на кампусі, покарання за стрілянину у школах у Флориді та кількість постраждалих, які привертають увагу ЗМІ.
Унаслідок інциденту загинули двоє чоловіків, обидва батьки, а ще шість осіб отримали поранення.
Розширення розслідування та подальші заходи
Утмайєр наголосив, що проблема виходить за межі простої передачі небезпечної інформації через чатбот. Важливо також оцінити, чи мали ці повідомлення стати сигналом до втручання з боку правоохоронців.
За його словами, запити Ікнера мали стати підставою для правоохоронців звернути увагу і провести комплексну оцінку загрози, щоб застерегти та запобігти злочину.
Крім того, у квітневому розслідуванні з’явилася нова гілка — вбивство двох аспірантів Південнофлоридського університету, підозрюваний у якому теж користувався ChatGPT.
Що пропонують законодавці? Які можуть бути наслідки?
Поки що конкретний законопроєкт лише розробляється, але голова відомства відзначив, що можливі заходи включають:
- великі штрафи для компаній;
- відшкодування завданих збитків постраждалим;
- судовий нагляд за діяльністю компаній;
- тимчасове призупинення роботи у штаті.
Також мають намір звернутися до Ради медицини Флориди з проханням розглянути законність надання медичних порад чатботами, адже це може вважатися нелегальною практикою лікарської діяльності.
Зі свого боку OpenAI у квітневій заяві запевнила у своїй прихильності безпеці спільноти та готовності врівноважувати безпеку з правами на приватність та іншими цивільними свободами.
Водночас прокурор підкреслює, що відсутність ефективних заходів захисту від ризиків, незважаючи на команду фахівців, є помилкою з боку компанії.
Де дізнатися більше?
Ініціатива Утмайєра з’явилася на тлі зростаючих побоювань щодо штучного інтелекту: наскільки безпечними є ці технології, що відомо компаніям про ризики і коли саме потрібно втручатися.
Ця тема охоплює широкий спектр проблем, таких як:
- тиск на різні галузі, зокрема робочі місця, ресурси води та енергії через штучний інтелект;
- потенційна шкода для психічного здоров’я, якщо уразливі користувачі шукають підтримки в AI;
- побоювання у Лондоні через чатботи, які ігнорують інструкції користувачів і можуть завдати значної шкоди;
Також критику викликали плани Meta щодо впровадження AI-чатботів, які можуть впливати на емоційне здоров’я та викликати самотність.
Запитання про те, хто і в якій мірі має відповідати за діяльність штучного інтелекту, виходять за межі одного кримінального кейсу чи окремої компанії. Це стимулює законодавців і регуляторів до ухвалення чітких правил і норм для індустрії чатботів.
