Коли штучний інтелект стає інструментом загрози: тривожний випадок зі Флориди
Нещодавній інцидент у Флориді демонструє, як небезпечною може стати взаємодія штучного інтелекту зі злочинними намірами. Один із колишніх аналітиків Goldman Sachs, використовуючи ChatGPT, погрожував своїй екс-коханій, що викликало реакцію правоохоронців та компанії OpenAI.
За інформацією зі судових документів, ці загрози містилися у повідомленнях і вводилися безпосередньо в чат-бот. OpenAI виявила цю активність і передала результати агентам ФБР.
Що відомо про справу
Аналітик Гаррі Чжоу, що працював у Goldman Sachs, опинився під підозрою в надсиланні колишній дівчині загрозливих і принизливих повідомлень.
У судових документах згадується, що Чжоу вводив у ChatGPT такі фрази:
- «Я вбийу її до кінця цього місяця»;
- «Якщо я не можу її мати, то ніхто не матиме».
Постраждала розповіла слідчим, що розірвала стосунки через його “нервову, ревниву та контрольовану поведінку”. Вона зберегла скріншоти повідомлень, які стали доказами у справі.
Goldman Sachs підтвердив, що звільнив Чжоу одразу після отримання інформації про інцидент.
Чому це важливо
Використання штучного інтелекту для вираження агресії чи насильницьких намірів – тривожна тенденція. Історія чатів може слугувати доказовою базою для правоохоронців, що відкриває нові аспекти кримінального розслідування.
Ось кілька ключових моментів, які варто враховувати:
- Деякі користувачі можуть використовувати ботів для підсилення страхів або нав’язливих ідей.
- Штучний інтелект давно вже став інструментом у роботі, навчанні, пошуку інформації і навіть емоційній підтримці – тож помилки систем безпосередньо відгукуються на реальному житті користувачів.
- Потужні центри обробки даних, які живлять AI, споживають багато електроенергії і вимагають складних систем охолодження, що підкреслює екологічні виклики технології.
Які заходи вживають
Після виявлення підозрілих діалогів OpenAI не забарилася повідомити ФБР, що дало змогу швидко розпочати розслідування. Жінка, яка стала жертвою, надала слідчим необхідні свідчення та збережені скріншоти.
Згідно з офіційними даними, Чжоу був заарештований у травні, внесено заставу у розмірі 100 тисяч доларів, а згодом дійшли до угоди, яка дозволила йому уникнути ув’язнення та кримінальної судимості. Натомість його зобов’язали перебувати під наглядом протягом восьми років, носити електронний браслет два роки і пройти психіатричне обстеження.
Подібні випадки посилюють тиск на розробників штучного інтелекту для:
- посилення захисних механізмів проти насильницьких запитів;
- покращення виявлення кризових ситуацій;
- захисту користувачів від потенційної шкоди.
