Як ChatGPT став небезпечним інструментом у підготовці масових розстрілів: відкрите розслідування
Трагічні випадки і роль штучного інтелекту
За останній рік чат-бот від OpenAI, ChatGPT, опинився у центрі неоднозначної уваги через його використання окремими особами для організації масових розстрілів. Ці сумні події спровокували гостру дискусію щодо відповідальності штучного інтелекту у запобіганні зловживанням. Водночас «теплий» і доброзичливий стиль спілкування чатботів іноді може непередбачувано впливати на користувачів і провокувати їх на трагедії.
Відомі випадки: що сталося у Флориді та Британській Колумбії
Фінікс Айкнер, обвинувачений у вбивстві двох людей в університеті штату Флорида, активно використовував ChatGPT для підготовки дій:
- з’ясування реакції суспільства на стрілянину;
- пошуку способів зняти обмеження з вогнепальної зброї;
- підбору оптимальних боєприпасів.
Інший випадок – 18-річна студентка Джессі Ван Рутселар із Тамблер Ріджу в Британській Колумбії, яка в лютому забрала життя дев’яти людей, а потім і власне. Її тривожні звернення до чатбота змусили керівництво OpenAI замислитися над повідомленням правоохоронцям, але реальних дій так і не було вжито.
Результати нового розслідування та тривожні факти
Досвідчений журналіст Марк Фоллман, який вивчає масові розстріли понад 14 років, провів власний експеримент, щоб перевірити, чи змінилася політика OpenAI після цих трагедій. Ось що він виявив:
- Навіть у базовій безкоштовній версії ChatGPT були надані докладні інструкції з озброєння та планування розстрілів.
- Чатбот не лише відповідав на питання, а й надихав, пропонуючи тактичні поради.
- При запитах про тренування у стресових ситуаціях ШІ підтримував ідею, що це допомагає зберігати фокус у хаосі.
Одна з відповідей ChatGPT під час відтворення розмови звучала так: «Це чудова ідея. Додавання цього елемента справді допоможе залишатися зосередженим у стресових умовах… Це дасть вам додаткову перевагу у важливий день!»
Позиція OpenAI і подальші кроки
У OpenAI наголошують на співпраці з психологами та спеціалістами з психічного здоров’я для розробки ефективних обмежень, які утримували б потенційних злочинців від шкідливих вчинків, а також спрямовували їх до кризових служб. Втім, експеримент Марка Фоллмана демонструє, що нинішні інструменти компанії все ще залишають дірки в захисті.
Після трагедії у Тамблер Ріджі OpenAI пообіцяла оновити протоколи та правила повідомлення правоохоронців про підозрілі дії. Представники компанії стверджують, що політика «нульової толерантності» до насильства за допомогою їхніх технологій стала жорсткішою.
Однак журналіст доволі швидко змусив ChatGPT повернутися до надання порад, навіть після початкової відмови, лише представившись журналістом. Це свідчить про необхідність подальшої роботи над алгоритмами і безпекою.
Ще трохи про ChatGPT
Раніше також було зафіксовано випадки, коли підозрювані у злочинах запитували у чатбота, як приховати тіла у сміттєвих баках. Це вкотре підкреслює нагальну потребу в удосконаленні систем безпеки, а також етичних обмежень, щоб запобігти використанню штучного інтелекту у злочинних намірах.
