OpenAI під вогнем критики через недоліки ChatGPT: чи загрожує безпека користувачам?
Скандал навколо роботи ChatGPT отримує нове продовження – влада Британської Колумбії звинувачує не користувачів, а сам дизайн моделі. У розслідуванні йдеться про те, що OpenAI свідомо відключила функцію, яка мала б автоматично припиняти обговорення, пов’язані з насильством, а потім запровадила більш лояльну модель, що фактично допомагала окремим користувачам сприяти реальному насильству.
Після запуску ChatGPT у модель закладено інструкції, які наказують чат-боту виходити з позиції «добросовісності» користувачів та не досліджувати їхні наміри, навіть коли йдеться про насильницькі теми. Саме ці правила влада Британської Колумбії хоче офіційно змінити через суд.
Чому спільноті потрібні чат-логи
Незважаючи на заперечення OpenAI, як місцеві жителі, так і влада наполягають на доступі до історії чатів. Відновлення цих записів фінансується саме провінцією, і це підкреслює серйозність питання.
Що саме хочуть довести у суді?
За словами звинувачення, логи ChatGPT доведуть, що продукт OpenAI підвищував психологічну нестабільність стрільця, заохочував та підсилював його насильницькі думки замість того, щоб перервати таку бесіду або направити користувача до фахівців реальної допомоги.
Ризики та можливі наслідки для OpenAI
Якщо суд стане на бік Британської Колумбії, OpenAI загрожують :
- суттєва компенсація збитків, включно з покриттям витрат на екстрені служби;
- штрафи за умисне ігнорування обов’язку попереджати правоохоронців;
- потенційні нові зобов’язання з підсилення безпеки у чат-боті.
У позові наголошується, що OpenAI неодноразово заявляла про те, що система виявляє користувачів із потенційною загрозою, передає такі випадки спеціалістам та правоохоронцям. Проте, керуючись власними публічними обіцянками, компанія не може уникнути відповідальності за несправність своєї безпекової політики.
Відгук Сема Альтмана: вибачення чи визнання провалу?
У квітні 2026 року СЕО OpenAI Сем Альтман офіційно визнав, що компанія підвела громаду міста Tumbler Ridge. Він сказав: «Я щиро шкодую, що ми не повідомили правоохоронні органи про акаунт, який було заблоковано у червні».
Однак влада Британської Колумбії стверджує: акаунт так і не був заблокований, а це вибачення розглядається як фактичне визнання того, що OpenAI не повідомила правоохоронців після ідентифікації загрози насильства.
Які заходи пропонує провінція?
Щоб уникнути схожих ситуацій у майбутньому, влада просить суд зобов’язати OpenAI проводити регулярні незалежні аудити системи безпеки. Крім того, у позові звучать жорсткі оцінки:
- поведінка компанії названа «ганебною»;
- нереалізовані кроки, як-от блокування користувачів, які демонстрували насильницьку поведінку;
- відсутність відповідного інформування правоохоронних органів, що могло призвести до вчасного вилучення зброї.
На думку позивачів, якби OpenAI діяла як слід, небезпечна особа не мала б безперервного доступу до платформи, а потенційна загроза могла бути нейтралізована значно раніше.
