OpenAI і трагедія в Tumbler Ridge: чому небезпека залишилась непоміченою?
Відомо, що OpenAI виявила другий акаунт ChatGPT, пов’язаний із стрільцем з Tumbler Ridge у Британській Колумбії, після того, як ім’я нападниці стало публічним. Варто зазначити, що перший акаунт було заблоковано ще в червні через публікації про насильство з використанням зброї.
Цю інформацію розкрила віце-президентка OpenAI з глобальної політики Енн О’Лірі у листі до міністра штучного інтелекту Канади, Івана Соломона. У документі також підкреслено, що другий акаунт було передано до поліції для перевірки.
Нові правила безпеки та залучення експертів
В О’Лірі розповіли, що з моменту інциденту компанія почала розробляти нові стандарти безпеки, які включають:
- Залучення фахівців з психічного здоров’я та поведінкових досліджень для оцінки складних випадків.
- Гнучкіші критерії направлення інформації до правоохоронних органів.
- Врахування потенційного ризику насильства навіть у випадках, коли користувач не деталізує цілі, способи чи час злочину у розмові.
Водночас досі невідомо, коли саме на Байджеррацію запровадили ці протоколи. Втім, першого акаунту Джессі Ван Рутселар не було повідомлено поліції під час його блокування.
Хроніка трагедії в Tumbler Ridge
У початку цього місяця Джессі Ван Рутселар вчинила жахливий злочин: вона застрелила власну матір і зведеного брата, а потім пішла до місцевої школи, забравши життя п’ятьом учням, помічниці з освіти і, зрештою, наклала на себе руки.
Прем’єр Британської Колумбії Девід Ебі заявив, що, на його думку, трагедію можна було б уникнути, якби OpenAI вчасно повідомила поліцію.
Він також повідомив, що генеральний директор OpenAI Сем Олтман погодився на зустріч для обговорення політик безпеки компанії. Прем’єр наголосив:
«Важливо, щоб пан Олтман усвідомив, як рішення не повідомляти поліцію призвело до незмірного горя для родин у Tumbler Ridge.»
Зустріч із владою та плани на майбутнє
Іван Соломон, міністр з питань штучного інтелекту, висловив розчарування після переговорів із представниками OpenAI.
За його словами, очікували почути конкретні пропозиції щодо удосконалення безпеки, але чули лише загальні зміни моделей і політик, без чітких нововведень. Після зустрічі він зазначив:
«Ми очікували, що OpenAI представить реальні кроки, що відобразять зміни після трагічної події в Tumbler Ridge, але їх не було.»
Заплановані зміни та реакція уряду
У листі О’Лірі перерахувала основні напрямки, над якими працює компанія для посилення безпеки:
- Створення прямого каналу зв’язку з канадськими правоохоронцями.
- Оновлення моделей для надання користувачам місцевої підтримки з психічного здоров’я у відповідних ситуаціях.
- Посилення систем виявлення повторних порушень політики компанії.
Представник офісу Соломона повідомив, що уряд досліджує інформацію з листа та готує додаткові заяви найближчими днями.
Можливі нові регуляції
Влада Канади вже розглядає можливість введення нових законів, які тісно регулюватимуть діяльність AI-компаній на території країни, аби уникнути повторення подібних трагедій.
Прем’єр Девід Ебі звернув увагу, що ці норми мають бути однаковими для всіх, хто працює з штучним інтелектом:
- Не може бути компаній, які закривають очі на потенційну загрозу насильства.
- Безпека користувачів та суспільства має стояти на першому місці.
«Ми не хочемо бачити на канадському ринку AI-компанію, котра ігнорує свої зобов’язання і не повідомляє про загрози насильства», — наголосив Ебі.
