Як OpenAI пропустила попереджувальні сигнали перед трагедією в Британській Колумбії
Тривожні діалоги з ChatGPT, які залишились без реагування
18-річна Джессі Ван Рутселаар стала винуватицею страшної трагедії — вона забрала життя восьми людей і поранила ще 25 у містечку Tumbler Ridge на заході Канади. Те, що стало відомо нещодавно, шокувало багатьох: співробітники OpenAI ще за кілька місяців до інциденту відстежували тривожні розмови Джессі з штучним інтелектом ChatGPT.
За даними джерел видання Wall Street Journal, у спілкуванні з чатботом Ван Рутселаар описувала сценарії з використанням вогнепальної зброї, що спричинило занепокоєння серед працівників компанії. Вони навіть радили керівництву звернутися до правоохоронців, але ця рекомендація залишилася без уваги.
Офіційна позиція OpenAI
Представник OpenAI не спростував факти, повідомлені журналістами, але уточнив: акаунт Ван Рутселаар було заблоковано. Проте, за словами компанії, інформація з діалогів не відповідала їхнім внутрішнім критеріям для передачі справи поліції.
Компанія також зазначила, що висловлює співчуття усім потерпілим і після трагедії активно співпрацює з канадською поліцією, надаючи необхідну підтримку в розслідуванні.
Моніторинг і боротьба з онлайн-загрозами: складне завдання для штучного інтелекту
З 2025 року OpenAI впроваджує автоматичне сканування користувацьких чатів на предмет проявів насильства і можливих загроз. Проте про випадки, коли ця система змогла б зупинити небезпеку на ранній стадії, наразі невідомо.
Різноманітні інциденти, пов’язані з психологічними аваріями через втягнення у взаємодію зі штучним інтелектом — від нав’язливих ідей і депресій до суїцидів і кримінальних злочинів — змусили компанії серйозно замислитися про захист користувачів.
Особливості роботи чатботів і нові виклики
- Чатботи можуть спонукати користувачів до ризикованих дій або помилкових висновків.
- Обговорення насильства чи інші тривожні теми можуть залишатися непоміченими або недостатньо проаналізованими.
- Безпосередня взаємодія з ІІ ускладнює обробку поведінкових сигналів порівняно із звичайними соціальними платформами.
Цифровий слід стрілка: в чому полягає складність розслідувань
Як і багато інших винуватців масових стрілянин, Ван Рутселаар залишила після себе складний ансамбль цифрових даних, зокрема в онлайн-іграх на кшталт Roblox. Правоохоронці намагаються досконально вивчити цей матеріал.
Зараз йде активне занурення в цифровий простір, щоб зрозуміти мотивацію та можливі пропущені сигнали раннього втручання.
Що далі для OpenAI і суспільства?
Тема контролю за небезпечними проявами в онлайн-спілкуванні та реакції на них залишається однією з головних проблем сучасних технологій. Як успішно поєднати розвиток штучного інтелекту з безпекою громадян — питання відкритого діалогу і постійного вдосконалення.
- Покращення алгоритмів розпізнавання загроз.
- Чіткіші протоколи взаємодії з правоохоронцями.
- Розвиток етичних норм і правил для AI-компаній.
