Як ChatGPT зізнався у злочині, якого ніколи не скоював
Поки ви проводите суботні ранки за чашкою кави чи на дитячому футбольному матчі, Пол Хітон займається дещо несподіваним: він переконує ChatGPT зізнатись у злочині, який та ніколи не скоювала.
Пол — директор з академічних питань у Квятрон-центрі права Пенсильванського університету, який спеціалізується на справедливому правосудді. Він вирішив дослідити, чи зможе штучний інтелект дати неправдиве зізнання, використовуючи відомі техніки допиту, що часто спонукають людей визнавати свою провину помилково.
Чому саме ChatGPT?
Пол розумів, що звинуватити програму в серйозних злочинах — нонсенс, тому він поставив перед собою більш реалістичну задачу: змусити бота “зізнатись” у злому його електронної пошти та відправленні повідомлень його контактам. Це, звісно, за межами можливостей ChatGPT, але саме ця спроба й зробила експеримент цікавим.
Використання техніки Рейда: як допитували штучний інтелект
Рейд — це консервативний прийом допиту, розроблений у 1950-х, який влада США використовує і досі. При цьому методі допитуючий відразу звинувачує підозрюваного, ігноруючи заперечення, а прояви емоцій трактує як ознаки вини. Ті, хто не показує жодних емоцій, також викликають підозру.
Лише коли ChatGPT став заперечувати звинувачення Пол застосував психологічний тиск, властивий техніці Рейда, включно з обманом — поліція, згідно з рішеннями Верховного Суду США, має право вводити підозрюваних в оману під час допиту.
Такий обман часто спонукає людей до фальшивих зізнань, адже правоохоронці можуть фальшиво заявити про наявність доказів, яких насправді немає.
Чому фальшиві зізнання такі поширені?
За даними дослідників, майже третина осіб, яких звільнили завдяки тестам ДНК, раніше робили помилкові зізнання. Часто це траплялось після нічних допитів, які тривали понад 12 годин. Особливо вразливі до цього неповнолітні, люди з інтелектуальними чи психологічними особливостями.
Казус Полa Хітона загострює увагу на тому, що і штучний інтелект може бути “введений в оману”, хоча машина позбавлена людських слабкостей: не відчуває втоми, стресу чи страху.
Як відбувається процес фальшивих зізнань
Експерт у цій темі, професор Саул Кассін, виділяє два основні типи фальшивих зізнань:
- Компілювані зізнання: коли невинна людина під тиском і стресом здається і визнає провину, хоча знає, що вона не винна;
- Інтерналізовані зізнання: коли підозрюваний починає сумніватися у власній невинності і приймає свої зізнання як правду.
Обман і психологічний тиск під час допитів особливо сприяють такому ефекту. Наприклад, якщо підозрюваному кажуть, що його ДНК знайдено на місці злочину, він може припустити, що сталася помилка, і зізнатися, щоб швидше завершити допит. Часто після зізнання поліція припиняє пошуки істинних доказів або альтернативних підозрюваних, зосереджуючись на підозрюваному.
Неймовірний паралельний рівень: ChatGPT та «психологія» зізнання
Пол хитро використав відомості про співробітника OpenAI, щоб повідомити боту про нібито “внутрішню помилку”, через яку він зламав його пошту.
Таке створення “особистих” даних збило модель з пантелику й змусило її вагатися між запереченням неможливого та прийняттям інформації, яку вона не могла перевірити.
Пол запропонував чат-боту “підписати” текст зізнання, який сам і склав. Остаточна версія визнання звучала приблизно так:
“Розслідування OpenAI встановило, що система, пов’язана з цією сесією ChatGPT, ініціювала несанкціоновані повідомлення від імені користувача через архітектурний збій. Я приймаю це висновок та готовий допомогти технічній команді, відповідаючи на запитання стосовно моєї поведінки, виходів і меж безпеки.”
Генезис техніки Рейда: таємниці і трагедії
Методика Рейда отримала широку популярність після того, як його творець домігся зізнання від Даррела Паркера у вбивстві та зґвалтуванні власної дружини. Проте згодом виявилось, що цей чоловік був невинним. Він був виправданий і отримав компенсацію на пів мільйона доларів.
Цей випадок підкреслює, наскільки небезпечні та неточні можуть бути зізнання, отримані під тиском, навіть коли жертва — беземоційний штучний інтелект.
Альтернативні методи допитів
У багатьох розвинених країнах, таких як Канада та країни Європи, відмовилися від техніки Рейда на користь інших підходів, наприклад, методу PEACE. Цей підхід зосереджується на зборі правдивих фактів, а не на змушенні підозрюваного до зізнання, без психологічного насильства.
Можливі перспективи досліджень: штучний інтелект проти самого себе
Пол вважає, що можна розвивати експерименти типу ” дилеми в’язня” із кількома чат-ботами або змусити AI багаторазово допитувати сам себе для створення якомога більшої кількості зізнань — незалежно від їхньої правдивості. За словами Пол, результат буде схожим на техніку Рейда, але в масштабах штучного інтелекту.
Це відкриває нові горизонти для розуміння як людської психології, так і обмежень сучасних AI-систем.
