Міністр штучного інтелекту ініціює переговори з OpenAI через безпекові ризики після трагедії в Тамблер-Рідж
Що сталося в Тамблер-Рідж?
Міністр із питань штучного інтелекту Еван Соломон зібрав представників компанії OpenAI в Оттаві на розмову про безпеку після шокуючих новин. Саме після того, як стало відомо: винуватець масового розстрілу в канадському місті Тамблер-Рідж мав заборону на користування платформою ChatGPT компанії OpenAI ще за кілька місяців до трагедії.
Обліковий запис Джессі Ван Рутселаара було заблоковано в червні минулого року. Проте компанія тоді не зверталася в правоохоронні органи, адже не було виявлено чітких ознак підготовки до злочину.
Причини блокування та реакція OpenAI
За даними The Wall Street Journal, акаунт Ван Рутселаара заблокували через занепокоєння через деякі пости, які містили сцени з застосуванням вогнепальної зброї. Проте це не призвело до негайного повідомлення поліції.
Після 10 лютого, коли злочинець убив матір, зведеного брата, а потім п’ятьох учнів, помічника вчителя та вчинив самогубство, OpenAI вже звернулася до Королівської канадської кінної поліції (RCMP).
Переговори щодо безпеки
Еван Соломон зізнався журналістам, що ця ситуація його глибоко непокоїть. Саме тому він провів переговори з американською компанією, щоб отримати більше інформації й організувати зустріч із вищим керівним складом служби безпеки OpenAI, яка відбулася у вівторок в Оттаві.
“Ми збираємося з ними поговорити, щоб краще зрозуміти, як працюють їхні протоколи безпеки, і на яких підставах вони повідомляють поліцію”, — повідомив міністр.
Чи чекати регулювання чатботів?
Соломон утримався від прямих заяв щодо можливого регулювання штучного інтелекту в Канаді, зокрема, чатботів на зразок ChatGPT, але натякнув, що усі варіанти розглядаються.
Компанія OpenAI підтвердила, що представники вже прямують до Оттави для зустрічі з урядовцями. Їхня мета – обговорити підходи до гарантування безпеки і постійне вдосконалення наявних заходів.
Професійні стандарти та відповідальність AI-компаній
Алан Макворс, професор-емерит з Університету Британської Колумбії, який спеціалізується на безпеці та етиці штучного інтелекту, підкреслює — багато професій, як-от викладачі чи лікарі, зобов’язані інформувати про можливе насильство чи шкоду неповнолітнім.
Він наголошує, що подібні обов’язки варто поширити й на соцмережі, і на компанії, які розробляють штучний інтелект.
Ключові моменти ситуації
- Джессі Ван Рутселаара було заблоковано в OpenAI за пости зі сценами насильства.
- Компанія не повідомила поліцію раніше, оскільки потенційні погрози не були підтвердженими.
- Міністр Еван Соломон ініціював офіційну зустріч з OpenAI для обговорення безпекових протоколів.
- OpenAI підтверджує готовність співпрацювати з урядом Канади.
- Висновок про необхідність встановлення обов’язків для AI-фірм щодо звітування про загрози підтримують науковці.
