Чоловік зі Флориди загрожував колишній через ChatGPT: як штучний інтелект викрив злочин
Розмова 25-річного Даррена Шиди Чжоу зі штучним інтелектом ChatGPT, у якій він обговорював плани на шкоду своїй колишній дівчині, не залишилися приватними. OpenAI повідомила ФБР про загрози, що пролунали в чаті, що допомогло правоохоронцям почати розслідування.
Як ChatGPT став інструментом розкриття злочину
Припинення шести місяців стосунків із 21-річною дівчиною стало поштовхом для Чжоу вести обговорення у чатботі. За інформацією слідчих, він описував інтереси екс-партнерки, місця її перебування та інших чоловіків у її оточенні, а також висловлював бажання поновити стосунки.
Однак незабаром ці репліки переросли у реальні погрози:
- Очікування дівчини на стоянці спортзалу з квітами з намірами заподіяти їй шкоду.
- Плани викрадення, сексуального насильства, тримання її в заручниках.
- Погрози розправою над родичами екс-коханої.
Чжоу навіть надсилав фотографії зброї, пластикових стяжок та латексних рукавичок. Юрист підсудного пізніше зазначив, що фактично клієнт не мав зброї.
OpenAI на своїй сторінці розповідає, що при виявленні загроз людям такі випадки направляють на додаткову перевірку спеціалістами. Якщо знаходять серйозну небезпеку, інформація передається правоохоронним органам — саме це й сталося у випадку із Чжоу.
Допомога слідству: двомісячні логи Чжоу
До травня федеральні агенти надали правоохоронцям округу Палм-Біч обширні записи чатів Чжоу. Вони містили лише повідомлення чоловіка, без відповідей ChatGPT.
Сержант, який працював із матеріалами, зазначив, що погрози не були імпульсивними емоційними спалахами, а демонстрували серйозний та неодноразовий план дій. Водночас була проведена перевірка стану колишньої дівчини, яка підтвердила свій розрив через “нестабільну, ревниву та контролюючу поведінку” Чжоу.
Незважаючи на численні прохання припинити контакти, він продовжував дзвінки, повідомлення і навіть обходив блокування, використовуючи фальшиві номери телефонів. Жінка зберегла повідомлення, які розглядалися як погрози, образи та домагання, що слідчі порівняли з даними з чатбота.
Обвинувачення та перебіг справи
25 травня Чжоу заарештували, висунувши три звинувачення рівня тяжких злочинів:
- Письмові або електронні погрози вбивства чи заподіяння тілесних ушкоджень.
- агgravated stalking з реальними загрозами.
- Використання двонапрямної комунікації для полегшення злочину.
Після двох днів у слідчому ізоляторі Чжоу внесли заставу у $100 000. Довідки Регулятора фінансових ринків підтверджують його роботу фінансовим аналітиком у філії Goldman Sachs у Вест-Палм-Біч із 2024 до 2026 року. Після розголосу про кримінальне провадження компанія звільнила Чжоу.
Умови угоди: уникнення ув’язнення
У червні прокурор АНА Цускова висунула обвинувачення за всіма трьома статтями, що потенційно могло призвести до 25 років ув’язнення. Проте вже у серпні Чжоу визнав провину та узгодив умови угоди з судом.
Окружний суддя Скотт Сускауер ухвалив рішення призначити йому 8 років пробації з такими обов’язками:
- Перші два роки під електронним контролем.
- Заборона контактувати з колишньою дівчиною.
- Не мати вогнепальної зброї.
- Відвідувати програму для осіб, схильних до насильства, проходити психіатричну оцінку й лікування.
- Уникати наркотиків та алкоголю.
Суддя також нагадав Чжоу: “Заспокойся і рухайся далі. Світ великий, і там є інші люди.”
Як OpenAI співпрацює з правоохоронцями у подібних випадках
Процес справи Чжоу добре ілюструє наступний механізм дій:
- Відстеження небезпечних повідомлень штучним інтелектом.
- Перевірка людськими модераторами, які можуть призупинити чи заблокувати акаунти користувачів.
- Передача даних у разі серйозної загрози фізичної шкоди відповідним органам.
Примітно, що випадки, пов’язані із загрозами самогубства, OpenAI зазвичай не передає поліції через питання конфіденційності. Але зрозуміло, що загрози на шкоду іншим людям тут розглядаються набагато серйозніше.
Завдяки цьому механізму і вдалося виявити і попередити потенційний злочин, що дав можливість уникнути трагічних наслідків.
