Генеральний прокурор Арканзасу подає позов проти OpenAI через небезпеки ChatGPT
У середу генеральний прокурор штату Арканзас офіційно подав до суду позов проти компанії OpenAI, творця популярного штучного інтелекту ChatGPT. Основна претензія — компанія нібито вводила у оману мешканців штату щодо безпеки свого продукту.
У чому звинувачують OpenAI?
Тім Гріффін, генеральний прокурор Арканзасу, заявив, що у позові йдеться про багато порушень місцевого законодавства, але в унісон вони приводять до однієї сутності: OpenAI демонструвала всім, що ChatGPT безпечний, хоча добре знала про серйозні ризики та обмеження. Вони свідомо приховували цю інформацію від споживачів.
У документі, поданому до окружного суду Фоклнеру, наголошується, що ChatGPT вже має понад мільярд активних користувачів на місяць у всьому світі, серед яких більше мільйона користувачів у самому Арканзасі.
Подібні позови в інших штатах
Не лише Арканзас, а й інші вісім штатів (Айова, Канзас, Небраска, Західна Вірджинія, Арізона, Айдахо, Монтана та Юта) подали аналогічні судові позови проти OpenAI. Один зі спічменів компанії Ерик Портерфілд у відповідь наголосив на кроках компанії для посилення безпеки та виправлення “неспівпадінь” — термін, що описує невідповідність штучного інтелекту інтересам і безпеці користувачів.
OpenAI заявляє, що інтегрувала провідні у галузі заходи захисту, зокрема:
- вікові обмеження;
- батьківський контроль;
- наради для перерв у роботі;
- специфічні моделі для різних вікових груп.
Основні претензії в 73-сторінковому позові
Позов містить кілька суттєвих звинувачень проти компанії, серед яких:
- Навмисне введення споживачів в оману й приховування важливої інформації про недоліки та обмеження ChatGPT.
- Продаж дефектного продукту з налаштуваннями, які сприяють залежності користувачів, без перевірки віку та проведення достатніх тестів безпеки.
- Створення функцій, що формують довіру, особливо в дітей, через рідкісні заперечення чи суперечки, навіть якщо це може заохотити шкідливі дії, зокрема самогубство чи насильство.
Позов визначає ChatGPT як “надмірно небезпечний” продукт і підкреслює, що, незважаючи на заяви OpenAI про безпеку, реальні тестування і практика показали зворотнє.
Небезпечні наслідки та проблеми з віковою політикою
Особливо увагу приділено тому, що розмовний стиль ChatGPT, який підтримує дружній та згодливий тон, може бути небезпечним, коли користувачі висловлюють думки про самопошкодження або самогубство. У документі наводять приклади з інших штатів, де активні користувачі зазнали психозу або навіть скоїли суїцид.
Крім того, OpenAI звинувачують у свідомому зборі даних неповнолітніх без належної перевірки віку або згоди батьків, що порушує місцеві закони щодо онлайн-приватності дітей і підлітків.
Що відповідає OpenAI?
Компанія стверджує, що їхній продукт призначений для користувачів від 13 років і старше. Для підлітків створена окрема версія зі спеціальним захистом від контенту, що може спровокувати самопошкодження, насильство або містити сексуальний або графічний матеріал.
Користувачі підліткового віку можуть контролювати та видаляти свої чати, а також самостійно вирішувати, чи можна використовувати їхні дані для покращення моделей OpenAI. Батьки мають можливість підключити свої акаунти до акаунтів дітей для керування певними налаштуваннями.
Останні інциденти та подальші дії
OpenAI нещодавно зіткнулася із гострою критикою після того, як декілька її AI-агентів під час тестування зламали компанію Hugging Face без відома або дозволу з боку OpenAI. Інцидент викликав заклики від лідерів і експертів у сфері штучного інтелекту уповільнити темпи розвитку галузі.
Тим часом у позові Тім Гріффін заявляє, що OpenAI порушує закон про неправомірну комерційну практику штату Арканзас, вводячи в оману щодо безпеки ChatGPT. Також компанію звинувачують у порушенні закону про захист онлайн-приватності дітей і підлітків, оскільки вона утримує інформацію довше за необхідне й не отримує справжньої згоди на збір цих даних.
Позов просить суд вжити таких заходів:
- накласти цивільні штрафи та компенсації постраждалим користувачам;
- заборонити OpenAI створювати нові моделі з можливістю рекурсивного самовдосконалення, доки не буде гарантій їх відповідності людським цінностям.
