OpenAI та трагедія в Канаді: Чому компанію викликали до Оттави
Представників компанії OpenAI, творця ChatGPT, запросили до столиці Канади – Оттави – після того, як з’явилася інформація про те, що компанія розглядала повідомлення про небезпечні дії однієї людини, однак не повідомила про це канадську поліцію. Згодом ця особа скоїла один із найстрашніших шкільних розстрілів у країні.
Що сталося та яку позицію зайняла OpenAI
У червні минулого року OpenAI виявила акаунт користувача Джессі Ван Рутселаара за допомогою системи виявлення зловживань, яка позначила його активність як потенційне заохочення насильства. Проте компанія ухвалила рішення не передавати справу поліції, оскільки на той момент не було ознак безпосередньої та реальної загрози фізичної шкоди іншим.
В акаунті користувача були помічені порушення правил використання платформи, через що його заблокували того ж місяця. Важливо зазначити, що OpenAI визначає поріг для звернення до правоохоронних органів лише у випадках, коли виявлена «безпосередня і реальна» загроза серйозної травми або смерті.
Розслідування поліції та випадок нападу
18-річний хлопець скоїв напад на школу у віддаленій місцевості Британської Колумбії, що розташована понад 1000 кілометрів на північний схід від Ванкувера, неподалік кордону з провінцією Альберта. Нападник першим вбив власну матір та зведеного брата, а потім відкрив стрілянину в школі, вбивши восьмеро людей, серед яких були школярі від 12 до 13 років та 39-річний асистент вчителя.
Злочинець помер від самострільної травми. Мотив злочину наразі залишається невідомим, хоча відомо, що він мав історію психологічних проблем і контактував із поліцією через це раніше.
Реакція канадських посадовців
Міністр Штучного Інтелекту Еван Соломон оперативно відреагував на публікації про інцидент і заявив про виклик представників OpenAI до Оттави для пояснень. Його головна вимога – зрозуміти механізми компанії щодо безпеки та процедуру передачі інформації правоохоронцям у випадках потенційної загрози.
Зустрічі з офіційними представниками компанії вже відбулися, однак повних деталей щодо подальших дій уряду поки не розголошують. Максимум, що сказав Соломон – усі варіанти залишаються відкритими, включно із можливим регулюванням штучного інтелекту для запобігання подібним трагедіям.
Чому це важливо
- Інцидент підштовхує до глибшої дискусії про етичні рамки та відповідальність компаній, які розробляють передові технології;
- Наголошує на необхідності ефективнішої співпраці між технологічним сектором і правоохоронцями;
- Порушує питання регулювання штучного інтелекту у сфері безпеки громадян.
Після трагедії OpenAI надала канадській поліції всю наявну інформацію про цю особу, однак це сталося лише після жахливого злочину. У суспільстві зростає увага до протоколів, за якими компанія діє у критичних випадках.
Пам’ятка для суспільства
Подія вказує на кілька важливих аспектів, які мають знати користувачі сучасних технологій та громадськість загалом:
- Навіть складні системи штучного інтелекту не завжди можуть передбачити або запобігти деструктивним намірам;
- Під час кризових ситуацій ключову роль відіграє оперативність обміну інформацією між усіма зацікавленими сторонами;
- Розробка та імплементація правил безпеки технологій потребує постійного вдосконалення у міру розвитку штучного інтелекту.
