OpenAI під прицілом: Чому не попередили поліцію про можливий напад у Канаді?
Нещодавно в Оттаві відбулася напружена зустріч із представниками компанії OpenAI, творця ChatGPT. Причина – повідомлення про те, що фірма ще минулого року виявила підозрілу активність одного з користувачів, але не повідомила канадських правоохоронців. Ця людина через кілька місяців стала винуватцем одного з найтрагічніших випадків стрілянини у школі в історії Канади.
Реакція уряду і позиція OpenAI
Міністр зі штучного інтелекту Єван Соломон заявив, що очікує від керівників OpenAI докладних пояснень з приводу протоколів безпеки компанії. Йдеться про те, як і коли вони вирішують передавати інформацію поліції. Зустріч призначена на вівторок, і в ній мають узяти участь найвідповідальніші фахівці з безпеки.
Британський прем’єр Девід Ебі висловив чіткий осуд:
- На думку Ебі, OpenAI мала всі шанси попередити масову стрілянину в Тумблер-Рідж, Британська Колумбія.
- Він підкреслив, що через бездіяльність компанії загинуло вісім людей, серед яких були діти.
- Прем’єр висловив гнів через втрату та закликав до відповідальності.
Факти про інцидент і процес ухвалення рішень
За інформацією OpenAI, ще минулого червня фірма виявила акаунт Джессі Ван Рутселаар, пов’язаний із підозрілими діями, пов’язаними з насильством. Проведена перевірка не дала підстав вважати існуючу загрозу достатньо терміновою чи переконливою для звернення до Королівської канадської поліції (RCMP). В результаті акаунт було заблоковано за порушення правил користування.
На жаль, уже у цьому місяці 18-річний Ван Рутселаар вчинив криваву стрілянину в віддаленому районі Британської Колумбії та вкоротив собі віку пострілом із вогнепальної зброї.
Що сталося у Тумблер-Рідж
Спершу стрілок убив власну матір і вітчима вдома, після чого напав на місцеву школу. Поліція розповідає, що він мав проблеми з психічним здоров’ям і перебував у полі зору правоохоронців. Причини трагедії досі залишаються нез’ясованими.
Жертвами нападу стали:
- П’ятеро учнів віком 12-13 років
- Освітній асистент 39 років
- Загалом вісім загиблих
Ця трагедія стала найбільш кривавою масовою стріляниною в Канаді після нападу 2020 року у Новій Шотландії, коли загинули 13 осіб, а ще дев’ять опинилися серед жертв пожеж.
Пріоритет безпеки в еру штучного інтелекту
OpenAI наполягає, що рішення про передачу справи правоохоронцям ґрунтується на критерії: чи існує реальна та безпосередня загроза серйозної шкоди іншим. На думку компанії, в їхньому випадку не було достатньо доказів та ознак безпосередніх планів злочину.
Після трагічних подій працівники OpenAI вже надали RCMP всю доступну інформацію про користувача і його взаємодію з ChatGPT.
Міністр Соломон повідомив, що відразу після публікацій і звернень він домовився про зустріч із представниками OpenAI. Передусім влада хоче впевнитися, що такі ситуації будуть попереджуватися в майбутньому і що компанії, які працюють зі штучним інтелектом, працюють відповідально.
Що далі?
- Канадський уряд не виключає жодних варіантів, у тому числі можливість регулювання чат-ботів з штучним інтелектом.
- Працівники уряду вже почали переговори з OpenAI, аби з’ясувати деталі та вжити заходів безпеки.
- Суспільство уважно слідкує за розвитком ситуації, адже йдеться про захист дітей і громадян.
