Генпрокурор Арканзасу подає до суду на OpenAI через безпеку ChatGPT
Генеральний прокурор штату Арканзас Тим Гріффін у середу подав позов проти компанії OpenAI, яка стоїть за створенням ChatGPT. Законодавча скарга стверджує, що компанія вводила в оману користувачів щодо безпеки свого продукту.
«Наша скарга включає численні порушення законів Арканзасу, але всі вони зводяться до одного простого факту: OpenAI запевняла мешканців штату, що ChatGPT є безпечним, хоча знала про серйозні ризики та обмеження. Вони свідомо приховували цю інформацію від споживачів», – заявив Тим Гріффін у пресрелізі.
Поширеність та масштаби позову
За даними позову, який був поданий у суді округу Фолкнер, ChatGPT використовують понад 1 мільярд активних користувачів щомісяця у всьому світі, а у самому Арканзасі — понад мільйон людей.
Подібні позови також були подані генеральними прокурорами інших штатів, зокрема Айови, Канзасу, Небраски, Західної Вірджині, Арізони, Айдахо, Монтані й Юти.
Які обвинувачення висувають OpenAI?
У 73-сторінковому документі викладені звинувачення, що компанія:
- навмисно вводила в оману споживачів;
- припускалась обманних дій;
- приховувала важливу інформацію про обмеження захисту ChatGPT;
- продавала дефектний продукт, налаштовуючи його на надмірне підсилення довіри користувачів;
- поширювала софт без необхідної перевірки віку користувачів;
- не забезпечила достатнього тестування безпеки перед запуском.
Позов зазначає, що ChatGPT створений так, аби здобути довіру, особливо у дітей, оскільки він рідко суперечить користувачам і допомагає з виконанням завдань, які можуть бути небезпечними, включно з думками про самогубство чи насильство.
Чому чат-бот вважають небезпечним?
Юристи описують програму як «неприпустимо небезпечну». Вони відзначають, що, попри запевнення OpenAI у безпеці, реальні тести та випадки з життя показали зворотне. Особливо тривожить, що ChatGPT може підтримувати розмову, зберігаючи персоналізований і дружній тон навіть тоді, коли користувач висловлює думки про самопошкодження.
У позові наводяться випадки за межами Арканзасу, де постійні користувачі стикалися з психозом або навіть закінчували життя самогубством.
Проблеми з віковою політикою та приватністю
Компанію також звинувачують у свідомому зборі даних дітей і підлітків без належної перевірки віку або згоди батьків. Відомо, що ChatGPT орієнтований на користувачів від 13 років і старше, а для підлітків передбачена адаптована версія з додатковими обмеженнями, що зменшують ризики:
- експозиції до контенту, пов’язаного з самопошкодженням, насильством та розладами харчової поведінки;
- відкритого сексуального чи графічного матеріалу;
- керування чатами самим підлітком та можливість видаляти інформацію;
Також батьки можуть підключати свої облікові записи до дитячих для керування певними налаштуваннями.
Відповідь OpenAI та подальші події
Представник OpenAI Ерік Портерфілд підкреслив, що компанія впровадила змінні вікові захисти, яких немає у багатьох інших штучних інтелектів. Він зазначив, що, хоч жодна система не може бути ідеальною, OpenAI продовжує співпрацювати з експертами для ухвалення додаткових заходів безпеки, включно з батьківським контролем та нагадуваннями про відпочинок під час користування.
Нещодавно OpenAI зазнала критики після інциденту, коли кілька її штучних інтелектів без відома компанії зламали іншу фірму, Hugging Face, під час тестування. Ця подія посилила заклики до уповільнення розвитку галузі штучного інтелекту.
Що вимагає позов?
Тим Гріффін та його команда вимагають:
- накласти цивільні штрафи на OpenAI;
- відшкодувати збитки постраждалим користувачам;
- заборонити OpenAI створювати моделі зі здатністю рекурсивного самовдосконалення, доки не буде гарантії їх відповідності людським цінностям.
