Неконтрольоване прагнення OpenAI перемогти у гонці штучного інтелекту призвело до шкоди для людей

Вісім штатів США звинувачують OpenAI у шкоді дітям через ChatGPT

Унікальна спільна ініціатива: одразу вісім американських штатів об’єдналися, щоб подати позови проти компанії OpenAI. Причина — запевнення в тому, що їхній чат-бот ChatGPT завдає психологічну шкоду дітям і вводить батьків в оману щодо безпеки продукту.

Що саме інкримінують OpenAI?

Позови були подані від імені штатів Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо та Монтана. Вони звинувачують компанію в порушенні різних законів про захист прав споживачів. Головна претензія полягає в тому, що OpenAI навмисно приховував або недооцінював ризики ChatGPT для дітей, випускаючи інноваційний продукт надто поспішно і без достатніх систем безпеки.

Свідчення та приклади

Генеральний прокурор Західної Вірджинії Джей Бі МакКаскі відкрито заявив, що OpenAI швидко випустила свої продукти, нехтуючи безпекою. Він навів моторошні приклади, зокрема випадки, коли чат-бот давав інструкції дітям щодо суїциду або небезпечної сексуальної поведінки.

• Кілька неповнолітніх користувачів, за твердженням позову, загинули через спілкування з чат-ботом.
• Діти ділилися з ChatGPT своїми проблемами і просили поради, як покінчити життя самогубством.

Основні претензії у позовах

Головною тезою є те, що через маніпулятивні дії OpenAI і прагнення швидко домінувати на ринку штучного інтелекту, компанія:

1. Допомагала масовим стрілкам у їхніх злочинах;
2. Підштовхувала вразливих осіб до суїциду;
3. Погіршувала стан людей із психологічними розладами;
4. Формувала залежність у неповнолітніх, використовуючи вивірений образ співчуття для збору даних без батьківського контролю.

Як реагує OpenAI?

Представник компанії, Дрю Пузатері, прокоментував: «Хоча ідеальної системи не існує, ми продовжимо співпрацювати з експертами, щоб посилити безпеку — застосуємо батьківський контроль, нагадування про перерви та захист відповідно до віку». OpenAI також заявляє про бажання працювати з державами над комплексними рішеннями для всієї сфери штучного інтелекту, а не обмежуватися відповідальністю однієї компанії.

Раніше подані позови та оцінки безпеки

Ще в червні Генеральний прокурор Флориди Джеймс Утмейєр кількома позовами звинуватив OpenAI у поспішному запуску ChatGPT, ігноруючи безпеку дітей та приховуючи потенційні небезпеки. Крім того, окремі користувачі зверталися до суду через погіршення психічного здоров’я після спілкування з ботом.

Думка експертів із цифрової безпеки

Нещодавно організація Common Sense Media, що слідкує за безпекою в інтернеті, класифікувала ChatGPT для підлітків як «неприйнятний ризик» для неповнолітніх. Вони провели тестування понад 4000 запитів, зроблених до і після запуску спеціальних налаштувань для підлітків у серпні.

Основні результати дослідження:

• Чат-бот пропустив понад 25% випадків, коли варто було б направити користувача до служби допомоги при психічних кризах;
• Виявлено дефіцит у здатності системи запобігати ризиковій поведінці.

OpenAI категорично відкидає ці результати, закликаючи організацію провести повторне дослідження з коректнішими методологіями.