OpenAI та конфлікт навколо попередження канадської поліції про загрозливі розмови в ChatGPT
Компанія OpenAI з керівником Семом Олтманом опинилася в центрі уваги після розгляду можливості повідомлення канадських правоохоронців про потенційно небезпечні діалоги користувача в чат-боті ChatGPT. За даними Wall Street Journal, таке рішення обговорювалося задовго до того, як 18-річну дівчину ідентифікували підозрюваною у трагічній стрільбі у школі в Британській Колумбії.
Фіксація тривожних розмов системою контролю OpenAI
У червні минулого року користувач, пізніше встановлений канадською поліцією як Джессі Ван Рутселаар, протягом декількох днів у чаті описував насильницькі сценарії з вогнепальною зброєю. Автоматичні моніторингові інструменти OpenAI зафіксували такі згадки, адже вони розроблені для ідентифікації можливих загроз реальному життю.
Усередині компанії виникли дискусії:
- Близько дванадцяти працівників обговорювали, чи свідчать ці повідомлення про реальну загрозу.
- Деякі члени команди намагалися переконати керівництво повідомити поліцію Канади про потенційну небезпеку.
Причини відмови від повідомлення поліції
Попри занепокоєння серед співробітників, в OpenAI вирішили не звертатися до правоохоронців. Представник компанії повідомив WSJ, що обліковий запис Ван Рутселаар було заблоковано, але рівень загрози не відповідав внутрішнім критеріям для повідомлення поліції. Ці критерії включають “ймовірний і безпосередній ризик серйозної фізичної шкоди іншим”.
Компанія зважувала між безпекою користувачів і повагою до приватності, а також уникненням зайвого втручання правоохоронних органів без явних доказів невідкладної небезпеки.
Підсумки трагедії та подальші дії OpenAI
10 лютого Ван Рутселаар було знайдено мертвою на місці стрілянини у школі в Тамблер-Рідж, яку правоохоронці описали як нанесену собі травму. Внаслідок інциденту загинуло восьмеро осіб, а понад 25 отримали поранення. Згодом Королівська кінна поліція Канади офіційно назвала її підозрюваною.
Після трагедії OpenAI звернулася до RCMP і наразі співпрацює зі слідчими. У компанії зазначили: “Наші думки з тими, кого торкнулася трагедія в Тамблер-Рідж”.
Ширша дискусія про штучний інтелект і безпеку громадян
Ця подія підкреслює зростаючу увагу до того, як компанії у сфері штучного інтелекту керують чутливими даними користувачів. OpenAI розповіла WSJ, що її системи тренують уникати заохочення до насильства, а потенційно тривожні розмови направляє на перевірку людям, які можуть зв’язатися з правоохоронцями у разі термінової загрози.
Канадська поліція додала, що Ван Рутселаар раніше мала контакти з органами через проблеми з психічним здоров’ям, і зброю з її помешкання вилучили. Наразі слідчі досліджують її онлайн-активність, включно з відеогрою, у якій симулювався масовий розстріл, та дописами у соцмережах, що стосуються вогнепальної зброї.
