OpenAI посилює безпекові протоколи після трагічної стрілянини в Канаді
OpenAI відреагував на трагічний інцидент масової стрілянини в місті Тамблер-Рідж, Британська Колумбія, де загинуло дев’ять осіб, включно із стрілком. Ця подія спонукала компанію переглянути та вдосконалити свої процедури безпеки та взаємодії із правоохоронними органами.
Що сталося з аккаунтом стрілка в ChatGPT?
Уже в червні 2025 року акаунт користувача, який пізніше влаштував трагедію, було призупинено через те, що система OpenAI виявила контент, який свідчив про можливу загрозу реального насильства. Незважаючи на це, компанія вирішила не повідомляти поліцію, оскільки не знайшла чітких доказів про серйозні наміри користувача діяти на практиці.
Цей крок викликав суттєве обурення в уряді Канади і змусив OpenAI ретельно переосмислити підходи до оцінки ризиків.
Відкритий лист та оновлення політики безпеки
Віце-президент OpenAI з глобальної політики, Енн М. О’Лірі, у відкритому зверненні до канадського уряду наголосила на вже розпочатих змінах і тих, що плануються найближчим часом. Хоча детальних конкретних кроків поки не вказано, це свідчить про рішучість компанії покращити свої протоколи.
Основні напрямки оновлень
- Виявлення повторних порушників політики та посилення систем безпеки проти обходу обмежень.
- Робота з експертами з психічного здоров’я для точнішої оцінки потенційної загрози.
- Запровадження прямого контакту із канадськими правоохоронцями для швидкого реагування на реальні ризики насильства.
Як OpenAI виявив інший аккаунт стрілка?
Після оприлюднення імені стрілка стало відомо, що він створив другий аккаунт у ChatGPT, який залишався непоміченим компанією до часу після трагедії. Цей факт ще раз підкреслив необхідність поліпшення внутрішніх механізмів виявлення подібних випадків.
Нові функції підтримки користувачів
Окрім безпекових міри, OpenAI планує внести зміни, які допоможуть користувачам, що опинилися у складних життєвих ситуаціях. Наприклад, ChatGPT стане більш чутливим до сигналів стресу або потенційної небезпеки, пропонуючи локальні ресурси підтримки та допомоги, замість обмежувальних заходів.
Що далі?
Компанія тримає відкриті двері для подальших змін, а також обіцяє скрупульозно працювати над тим, щоб подібні прориви не повторювались. Представники OpenAI вже підтримують діалог із правоохоронцями Канади і готують комплексні рекомендації для своїх систем.
Наразі очікуються додаткові коментарі від компанії щодо того, як ці нові протоколи вплинуть на роботу в інших країнах, зокрема в Сполучених Штатах.
