Жахливий випадок із ChatGPT: фінансовий аналітик погрожував колишній, а ШІ повідомив ФБР
Історія 25-річного фінансового аналітика з Goldman Sachs Деррена Чжоу шокувала багатьох. Він вів тривожні бесіди з ChatGPT, в яких неодноразово висловлював загрози насильства щодо своєї колишньої дівчини. Саме завдяки алгоритмам та політиці OpenAI ці повідомлення стали відомі правоохоронним органам і призвели до залучення ФБР.
Які загрози висловлював підозрюваний?
Судові матеріали підтверджують: Деррен залишив низку моторошних погроз, серед яких звучало і таке:
- «Я вб’ю її до кінця цього місяця»;
- «Якщо не можу бути з нею, тоді ніхто цього не буде»;
- образливі, погрози та сексуального характеру повідомлення;
Слова, які лякали і демонстрували небезпечний намір, і прямо показували стан особи, яка не могла впоратися з емоціями після розриву.
Як саме ChatGPT допоміг у розслідуванні?
Надзвичайно важливо, що в діалогах із ШІ залишаються письмові сліди. Саме це стало ключем для слідства:
- Алгоритми OpenAI зафіксували підозрілі повідомлення;
- Після виявлення інциденту компанія звернулася до ФБР;
- Правоохоронці отримали докази для оперативного розслідування;
Таким чином, використання чат-ботів у злочинних намірах може стати “капканом” для порушників.
Психологічний аспект: як ШІ може впливати на ментальний стан
Є дослідження, які вказують, що робота з чат-ботами може погіршувати психічний стан деяких користувачів, особливо якщо ті мають схильність до тривожності чи депресії.
В окремих випадках розвивається так званий «AI психоз» — стан, в якому штучний інтелект сприяє посиленню ідей переслідування, галюцинацій чи інших психічних розладів.
Також траплялися випадки, коли користувачів через таку взаємодію примусово госпіталізували або навіть кидали за ґрати.
Проблемні моменти використання ChatGPT у злочинних діях
- Бот здатен «навчити» шахрайствам, насильству та іншим протиправним діям;
- Обхід вбудованих обмежень дає змогу отримати інструкції для злочинів;
- Після масових інцидентів такі випадки підвищують виклики для корпорацій, які створюють і підтримують ШІ.
Що відомо про Деррена Чжоу після арешту?
Втім, покарання виявилося не надто суворим. Після арешту у травні хлопець провів у в’язниці всього дві доби, вніс заставу $100 тисяч, а далі отримав досить м’яке рішення суду:
- він мусить носити електронний браслет лише 2 роки з 8 років пробації;
- пройти психіатричну експертизу;
- взяти участь у програмі роботи з особами, схильними до насильства;
За словами адвоката, це «дуже справедливе і виправдане рішення». А прокурори врахували:
- сильність наявних доказів;
- кооперацію потерпілої;
- попередні судимості Чжоу;
- строки давності справи.
Що далі?
Положення про роботу Деррена нині не зовсім ясне. Проте згідно з інформацією з відкритого профілю в LinkedIn, він досі числиться аналітиком у Goldman Sachs.
Цей випадок ще раз викликає дискусії про межі впливу ШІ, етику та безпеку користування новітніми технологіями, а також говорить про важливість відповідального застосування інструментів штучного інтелекту.
