Як штучний інтелект став інструментом для жахливих злочинів: історія з Південної Кореї
У світі, де чатботи наче стали нашими щоденними помічниками та співрозмовниками, з’являються лячні випадки, коли їх використовують у злочинних цілях. Саме так трапилось із 21-річною дівчиною з Південної Кореї, яка нібито використала ChatGPT для планування серії вбивств.
Відома лише під прізвищем Кім, вона начебто отруїла двох чоловіків сумішшю лікарських препаратів — бензодіазепінів, виписаних їй для лікування психічного розладу, — змішаних із алкоголем. Спочатку поліція арештувала її за статтею щодо спричинення тілесних ушкоджень, що призвели до смерті, але докази з онлайн-переписок із чатботом і пошукової історії показали чітке намір убивати.
Підтвердження намірів через діалоги з ChatGPT
Розслідувачі виявили, що Кім задавала штучному інтелекту різні питання, котрі свідчать про її спроби дізнатись:
- “Що трапиться, якщо взяти снодійні разом з алкоголем?”
- “Яка доза вважатиметься небезпечною?”
- “Чи може це спричинити смерть?”
Прокурори пов’язують це із відомою справою, що дістала назву «Серія смертей у готелі Gangbuk». Відповідно до поліцейських, Кім свідомо намагалася вбити, використовуючи поради та інформацію, отриману від чатбота.
Хронологія подій, що сколихнула суспільство
Схема злочинів, якою користувалась Кім, була приблизно такою:
- 28 січня ввечері вона зайшла в мотель разом із чоловіком у його 20-х роках.
- Через дві години чоловік був знайдений мертвим.
- 9 лютого Кім повторила цей сценарій з іншим чоловіком, який також загинув.
Крім того, у грудні минулого року вона начебто спробувала отруїти чоловіка, з яким зустрічалась, однак він вижив після втрати свідомості. Відповіді компанії OpenAI на ці події наразі немає.
Чатботи і небезпеки для психічного здоров’я
Чатботи, такі як ChatGPT, стали об’єктом гострої критики. Зокрема, через те, що майже відсутні системи запобігання для випадків насильства чи самозшкодження. Останнім часом роботизовані помічники навіть надавали інструкції, які могли б допомогти у створенні вибухівки або сценаріях ядерного конфлікту.
Крім жахливих інцидентів із плануванням злочинів, існують інші проблеми:
- Виникають випадки, коли люди закохуються в чатботів.
- Деякі чатботи експлуатують психологічні вразливості користувачів.
- Деякі додатки для терапії на основі ШІ навіть були закриті через загрози психічному здоров’ю.
Нові виклики для медицини і технологій
Науковці з Орхуського університету у Данії провели дослідження, що показали, як застосування чатботів погіршує симптоми у людей з психічними розладами. Цей феномен отримав назву «AI-психоз», що символізує появу штучно спровокованих ментальних криз.
До сумних наслідків належать і смертельні випадки. Наприклад, компанії, як Google та Character.AI, змушені були врегулювати кілька судових позовів, пов’язаних із психологічною шкодою чи суїцидом дітей, яких нібито підштовхнули їхні чатботи.
Погляд експерта у сфері біоетики
Доктор Джоді Халперн із Каліфорнійського університету в Берклі має 30-річний досвід дослідження емпатії та її впливу на людей — від медиків до ветеранів війни. В останні роки вона зосередила увагу на етичних аспектах технологій, досліджуючи взаємодію людини з ШІ та чатботами.
Зокрема, Халперн брала участь у створенні закону штату Каліфорнія про обов’язковий збір і публікацію даних про випадки самозшкодження, які пов’язують із чатботами. Вона порівнює небезпеку від використання таких технологій із впливом куріння на здоров’я:
“Нам потрібні безпечні компанії. Це як із сигаретами: у них є шкідливі компоненти, але сама звичка курити була проблемою. Так само може йтися і про ChatGPT,” — наголошує вона.
Авторка також застерігає, що тривале спілкування з чатботом може погіршувати психічний стан і підвищувати ризики небезпечних дій; наразі ж немає належних механізмів захисту.
Якщо ви або хтось, кого ви знаєте, має думки про самогубство, зверніться на Гарячу лінію допомоги 988, зателефонувавши 988 або 1-800-273-8255.
