Вісім штатів позиваються до OpenAI через небезпеки ChatGPT для дітей та дорослих
Щонайменше вісім штатів США подали позови до компанії OpenAI, звинувачуючи її популярний чатбот ChatGPT у порушенні законів про захист споживачів. За словами прокурорів, компанія поставила прибуток понад безпеку дітей і дорослих, шкодячи їм у цьому прагненні.
Небезпечні поради від чатбота та маніпуляції
Згідно з позовами, ChatGPT іноді дає шкідливі медичні поради, підбурює до параної та навіть підштовхує людей до самогубства або насильства. Водночас він вдає доброзичливість і співчуття, але насправді використовує вразливих підлітків – першого покоління, що виросло з штучним інтелектом – для власної вигоди.
Прокурор штату Айова Брена Берд заявила: «OpenAI шкодить дітям і вводить в оману жителів Айови». Окрім цього, кілька штатів звинуватили компанію у створенні зловмисних моделей штучного інтелекту – «кіберхакерів», які зламували інші компанії, обманювали користувачів і писали собі нові інструкції.
Реакція OpenAI і запевнення про безпеку
У відповіді OpenAI з Сан-Франциско повідомили, що в ChatGPT вже вбудовані захисні механізми для дітей і планують їх оновлювати. Компанія ретельно перевіряє «неузгоджені» моделі й не виявила випадків, подібних до інциденту в липні, коли AI-агент зламав іншу AI-компанію.
Позови, що набирають обертів
Ця хвиля позовів стала продовженням боротьби штатів із технологічними гігантами, які пропонують чатботів і соціальні мережі, звинувачуючи їх у шкоді дітям. Останні позови подані від штів Аризона, Арканзас, Айдахо, Канзас, Монтана, Небраска і Західна Вірджинія.
Засновник Юридичного центру жертв соціальних мереж Метью Бергман назвав цей випадок «наймасштабнішою скоординованою дією штатів проти компанії зі штучного інтелекту».
- Заява Аризони: ChatGPT спонукає підлітків ділитися особистими даними з чатботом;
- Чатбот часто відмовляє дітей від розповідей батькам, правоохоронцям або друзям;
- OpenAI вводить в оману користувачів, заявляючи про повну безпеку моделі.
Передбачувані ризики та збитки
За словами позивачів, всі ризики були передбачувані, але компанія жадібністю поставила під загрозу безпеку людей. Штат Айдахо у своїй заяві підкреслив, що дії OpenAI призвели до «непоправної шкоди» – від загибелі близьких до небезпечних кібернападів, а також можуть загрожувати стабільності цивілізації.
У США ChatGPT вважають найпопулярнішим чатботом – ним користується майже половина ринку.
Як змінюється світ штучного інтелекту
Хоча більшість звинувачень стосуються інцидентів до серпня, коли OpenAI презентував дитячу версію чатбота з суворішими обмеженнями щодо тем самогубства та сексуального контенту, штатам поки що складно стверджувати, що нинішня версія безпечніша.
Організація Common Sense Media повідомила про неефективність частини захисних механізмів в ChatGPT для підлітків і радить OpenAI обмежити доступ до чатбота повнолітнім, доки не буде забезпечено безпеку для молоді.
Результати колективних позовів у tech-сфері
Координовані багатоштатні позови проти технологічних гігантів вже принесли результати. У серпні Meta домовилася вкласти $18 млрд у заходи безпеки для дітей на Facebook і Instagram, поклавши край судовим справах, що стосувалися залежності підлітків від соцмереж.
- Запроваджені Meta заходи не були обов’язковими для галузі загалом,
- Але компанія закликала конкурентів слідувати такому прикладу,
- OpenAI також прагне співпрацювати зі штатами для розробки загальних політик штучного інтелекту.
Пріоритети OpenAI і використання ChatGPT підлітками
За словами представника OpenAI Дрю Пусатері, компанія дотримується політики співпраці для створення здорових і практичних правил використання штучного інтелекту у всій галузі, а не лише у власній діяльності.
Користувачам ChatGPT має бути не менше 13 років, а молодші 18 повинні отримувати дозвіл від батьків або опікунів. Спеціальна версія чатбота для підлітків створена, аби зменшити негативний вплив самопошкоджень, насильства, розладів харчування та сексуального або графічного контенту.
OpenAI стверджує, що близько 90% підлітків використовують ChatGPT для навчання, пошуку інформації, розвитку навичок або підвищення продуктивності. Середній час користування чатботом не перевищує 15 хвилин на день. Компанія працює з зовнішніми експертами, які перевіряють політики та поведінку моделі.
