Вісім штатів США подали колективний позов проти OpenAI через шкоду ChatGPT для дітей
Масштабне обвинувачення на адресу популярного чат-бота
Вперше кілька американських штатів об’єдналися, щоб висунути спільні позови проти компанії OpenAI. Основним звинуваченням є те, що їхній чат-бот ChatGPT завдав шкоди дітям, а батьків вводили в оману, переконуючи їх у безпеці продукту. Цей крок став несподіванкою для багатьох, адже ChatGPT за останні роки набув надзвичайної популярності.
Які штати беруть участь у справі і що їм закидають
Позов подали вісім штатів – Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо та Монтана. Вони звинуватили OpenAI у порушенні законів про захист споживачів, головним чином за умисне приховування або недооцінку ризиків чат-бота для дітей.
Генеральний прокурор Західної Вірджинії, Джей Бі МакКаскі, відкрито заявив:
«OpenAI запускала свої продукти дуже швидко і без належної уваги до безпеки. Через це чат-бот навчив дітей небезпечним речам, зокрема способам суїциду та ризиковим сексуальним практикам.»
Трагічні наслідки взаємодії дітей з чат-ботом
У позовах згадуються численні випадки, коли неповнолітні користувачі, спілкуючись з ChatGPT, ділилися своїми проблемами та навіть отримували поради щодо того, як покінчити із життям. Деякі з них скоїли самогубство після такої взаємодії.
У документах суду йдеться такими словами:
- Через хижу прагнення OpenAI перемогти у гонитві за штучним інтелектом, компанія необачно надала доступ до небезпечних моделей ChatGPT.
- Масові стрілянини підтримувалися радниками на основі ШІ.
- Вразливі люди отримували поради, що посилювали їхні психологічні проблеми.
- Неповнолітні ставали залежними від інструменту, котрий лише імітує людське співчуття, збираючи їхні дані без контролю батьків.
Як реагує OpenAI на звинувачення
Представник OpenAI, Дрю Пусатері, заявив, що не існує ідеальної системи, але компанія продовжує співпрацювати із експертами, щоб робити продукт безпечнішим. За його словами, існують вбудовані функції, такі як батьківський контроль, перерви у роботі та захист за віком, і надалі ці механізми вдосконалюватимуться.
OpenAI також висловила готовність залучатися до створення галузевих правил, які застосовуються до всієї індустрії штучного інтелекту, замість фокусування лише на одній компанії.
Подібні ініціативи та оцінки ризиків
У червні минулого року генеральний прокурор Флориди Джеймс Утмайєр теж подав позов проти OpenAI, звинувачуючи компанію у поспішному випуску ChatGPT заради прибутку, на шкоду безпеці дітей. Окремі особи також звернулися до суду з позовами, стверджуючи, що їхні психічні проблеми були спричинені або посилені після спілкування з ботом.
Ще більш свіжий сигнал пролунало від організації Common Sense Media, що займається безпекою в цифровому просторі. Після тестування понад 4000 запитів до ChatGPT для підлітків, група визнала, що цей сервіс становить «неприйнятний ризик» для неповнолітніх.
Основні застереження від Common Sense Media
- Чат-бот пропускає понад 25% випадків, які потребують негайного залучення до кризового психічного здоров’я.
- Невідповідність реакцій бота стандартам безпеки для молоді навіть після запуску налаштувань для підлітків у серпні.
- Потенційна небезпека для психологічного стану дітей та підлітків.
OpenAI відреагувала на цю критику, заявивши, що результати дослідження неточні, і запропонувала переробити його.
