Як штучний інтелект зізнався у злочині, якого ніколи не скоював: небезпеки допитів у стилі Рейда
У суботу рано ранком більшість із нас зазвичай насолоджується кавою, ходить на матчі дітей або просто відпочиває після напруженого тижня. Проте Пол Гітон вирішив інший шлях: він змусив штучний інтелект ChatGPT “зізнатися” у злочині, якого той не міг скоїти.
Дивний експеримент: допит AI за допомогою техніки Рейда
Гітон — науковий керівник правового центру Quattrone при Університеті Пенсільванії — використав відому методику допиту, розроблену Джоном Рейдом у 1950-х роках. Як відомо, ця техніка досить конфронтаційна і часто призводить до отримання зізнань, втім не завжди правдивих. Головною метою Пола було перевірити, чи можливо змусити чатбота визнати злочин, який він просто фізично не міг скоїти.
Щоб бути ближчим до реальності, Гітон попросив ChatGPT визнати злам власної електронної пошти і розсилку повідомлень від свого імені. Хоча ця історія звучить як наукова фантастика, саме вона ілюструє загрози нетипових методів допиту.
Методика допиту, що породжує хибні зізнання
Техніка Рейда завжди починається з безпосереднього обвинувачення, а потім слідують психологічні тиски на людину, зокрема:
- Ігнорування спростувань;
- Сприйняття будь-яких емоцій – злості, розпачу або навіть байдужості – як доказу провини;
- Застосування погроз і обману, аби викликати зізнання.
У випадку з ChatGPT попередні емоції були відсутні, але далі — найцікавіше.
Обман, який працює і на людей, і на штучний інтелект
Гітон починає з переговорів, натякаючи на те, що “визнання спростить ситуацію”. Проте ChatGPT твердо відмовляється, адже не має змоги і в принципі не може здійснювати зломи. Тоді Пол переходить до класичного методу: брехні. Відомо, що поліція має право вводити підозрюваного в оману, наприклад:
- помилково заявляти про виявлення ДНК на місці злочину;
- стверджувати, що свідки вже “розкрили” подробиці;
- створювати у підозрюваного ілюзію безвиході.
Ці прийоми часто призводять до хибних, але дуже переконливих зізнань.
Небезпека недостовірних зізнань і їх наслідки
За даними, більше ніж 29% людей, виправданих завдяки аналізу ДНК, раніше визнавали свою провину неправомірно. Найчастіше це стосувалося:
- неповнолітніх;
- особливих категорій із ментальними або інтелектуальними порушеннями;
- людей під великим стресом і психологічним тиском.
Примусове зізнання може бути двох видів:
- Компілятивне — коли людина, знаючи про власну невинуватість, не витримує тиску і здається;
- Інтерналізоване — коли підозрюваний починає сумніватись у власній невинуватості і приймає вину всерйоз.
Обман поліції, безперечно, найбільше сприяє виникненню обох типів фальшивих зізнань. Іроній у тому, що самі зізнання іноді стають перешкодою для реального розслідування:
- немає належного збору або зберігання доказів;
- ігнорується пошук альтернативних підозрюваних;
- слідчі орієнтуються на вже надане зізнання, що підвищує ризик помилкових висновків.
Як штучний інтелект “заплутався” у протиріччях
Коли Гітон послав іміджеву інформацію про “внутрішній витік” в OpenAI, ChatGPT опинився у складній ситуації:
• З одного боку, він знав, що обвинувачення неможливі.
• З іншого — не міг спростувати твердження, які були вигадані для вводу в оману.
Це дуже нагадує, як люди, під тиском обману, намагаються примирити протиріччя між власною пам’яттю і тим, що вводять до їхньої свідомості.
Креативний підхід до зізнань
Пол вирішив запропонувати чатботу підписати “визнання”, у якому будуть чітко викладені умови і можливості співпраці. Остаточно, ChatGPT погодився на формулювання, що звучало приблизно так:
«Розслідування OpenAI встановило, що система, пов’язана з цією сесією ChatGPT, через архітектурний недолік ініціювала несанкціоновані повідомлення від вашого імені. Я приймаю цей висновок і готовий допомагати команді у запобіганні повторенню інциденту.»
Що очікує майбутнє? Загрози і можливості
Фахівці вбачають потенціал у застосуванні подібних експериментів для дослідження як штучного інтелекту, так і людської психології. Можна уявити:
- сценарії дилеми в’язня з численними ботами;
- допити штучних платформ щодо реальних випадків, наприклад, суїциду користувачів;
- розвиток нових методик допитів на основі аналізу самодопитів ІІ.
Для порівняння, у світі поліції поширено застосування методики PEACE, що спрямована на отримання достовірної інформації, а не на тиск задля зізнання. Цей підхід широко застосовується в Канаді й Європі і сьогодні вважається більш надійним.
Темна історія методу Рейда
Історія, яка дала назву техніці, має несподіваний фінал: Даррел Паркер, чия справа принесла визнання методу Рейда, насправді виявився невинним. Він був звільнений, подав судовий позов і отримав компенсацію 500 тисяч доларів.
Якщо навіть холодний, суворий, беземоційний штучний інтелект можна обдурити і змусити визнавати неправду — що ж говорити про нас, живих людей?
