OpenAI розкриває, як зловмисниця обійшла заборону ChatGPT перед трагедією в Канаді
Отава, Онтаріо — Виробник ChatGPT, компанія OpenAI, у четвер повідомила, що стрілецька, яка вчинила одну з найжахливіших стрілянин в школі в історії Канади, змогла обійти заборону на використання сервісу, створивши другий обліковий запис.
Які кроки робить OpenAI після трагедії
Ця інформація з’явилася після того, як компанія з Сан-Франциско надіслала уряду Канади лист із описом “негайних заходів”, що їх планують впровадити у відповідь на інцидент.
Якби ці нововведення були вже активні, поліція була б поінформована про підозрілу діяльність на обліковому записі стрільця.
Що сталося з обліковими записами стрільця
Віце-президент OpenAI з глобальної політики Енн Олері розповіла, що другий обліковий запис Джессі Ван Рутселаар вдалося виявити лише після того, як поліція озвучила її ім’я. Саме Ван Рутселаар убила вісім осіб, а потім себе, 10 лютого у місті Тамблер-Рідж, Британська Колумбія.
Зловмисниця уміло обійшла механізми, які мали заборонити створення нового облікового запису забороненим користувачам. Другий аккаунт після виявлення було передано правоохоронцям.
Посилення систем безпеки в OpenAI
У листі компанія зазначила, що зобов’язується покращити свої системи виявлення та запобігання таким спробам обходу бар’єрів, зокрема:
- Пріоритетне визначення користувачів з найвищим рівнем ризику.
- Посилення процедур повідомлення поліції у випадках “імінентної та достовірної загрози”.
- Створення прямої лінії зв’язку з правоохоронними органами Канади.
Історія бану і реакція OpenAI
Перший обліковий запис Ван Рутселаар було заблоковано ще у червні 2025 року через порушення правил користування. Тоді автоматизована система виявила порушення, після чого справа передавалася на ручний перегляд.
Однак на той час порушення не набирало серйозну загрозливу вагу, щоб інформувати поліцію.
Реакція влади та подальші дії
Прем’єр-міністр Британської Колумбії Девід Ебі заявив, що сам керівник OpenAI Сем Альтман погодився зустрітися з ним.
Ебі додав, що уряд отримав від OpenAI запевнення: якби оновлені протоколи були активними раніше, поліція була б поінформована про активність Ван Рутселаар у ChatGPT.
Що відомо про сам інцидент
Насильницька атака розпочалась із вбивства матері і зведеного брата стрільця в їхньому будинку, після чого вона напала на шкільний заклад поблизу.
Поліція зазначає: Ван Рутселаар раніше мала контакти з правоохоронцями щодо психічного здоров’я.
Мотив стрілянини поки що залишається невідомим.
Контекст трагедії в Канаді
Це – наймасштабніша атака із застосуванням вогнепальної зброї в Канаді з 2020 року, коли в Новій Шотландії озброєний злочинець убив 13 осіб і підпалив будівлі, внаслідок чого загинуло ще дев’ятеро.
Як влада реагує на онлайн-загрози
Міністр штучного інтелекту Канади Еван Соломон організував зустріч із представниками OpenAI, щоб обговорити безпекові протоколи та варіанти запобігання подібним трагедіям у майбутньому.
Він зазначає, що уряд розглядає різні заходи для боротьби з онлайн-шкідниками і цифровими загрозами, і “всі варіанти на столі”.
