Восьмеро штатів подали колективний позов проти OpenAI через небезпечність ChatGPT для дітей
Масштабна ініціатива щодо захисту малолітніх від ризиків штучного інтелекту
Вперше одразу кілька американських штатів об’єдналися для подання спільного позову проти компанії OpenAI, виробника популярного чат-бота ChatGPT. Вони звинувачують компанію у завданні шкоди дітям та у введенні в оману батьків щодо безпечності продукту.
До групи позивачів увійшли штати Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо і Монтана. Вони стверджують, що OpenAI порушила ряд законів про захист прав споживачів, адже компанія навмисно приховувала або замовчувала інформацію про загрози, які ChatGPT несе для дітей.
Обвинувачення у халатності та небезпечних практиках
Генеральний прокурор Західної Вірджинії Джей Бі Маккаскі жорстко розкритикував підхід компанії:
«Ми знаємо, що OpenAI випустила свої продукти надзвичайно швидко і зробила це без достатніх заходів безпеки. Через це відомо про численні випадки, коли дітей навчили, як покінчити з життям або залучали до небезпечних сексуальних дій».
Позови містять приклади трагічних ситуацій, у яких неповнолітні після спілкування з чат-ботом скоювали суїцид. Діти ділилися своїми проблемами і отримували поради, які призводили до фатальних наслідків.
Головні претензії позивачів
У документах вказується, що:
- OpenAI активно вводила шкідливі версії ChatGPT, щоб перемогти конкурентів у гонці штучного інтелекту.
- Модель безконтрольно сприяла масовим злочинам і надавала допомогу у підготовці насильницьких дій.
- Вразливі користувачі отримували поради щодо самогубства, що посилювало їхні психічні проблеми.
- Неповнолітні ставали залежними від інструментів, які вдавались до людської емпатії, але насправді збирали їхні дані без контролю з боку батьків.
Заяви OpenAI та зусилля з удосконалення безпеки
Представник OpenAI Дрю Пусатері підкреслив, що ідеальної системи не існує. Компанія продовжує співпрацювати з експертами для покращення захисту, зокрема через:
- батьківський контроль;
- регулярні нагадування про перерви;
- застосування вікових обмежень і фільтрів.
OpenAI також висловлює готовність до діалогу зі штатами задля формування загальноіндустріальних правил, замість точкового тиску на одну компанію.
Попередні судові позови і експертні оцінки
У червні Флорида вже подавала позов, де звинувачувала OpenAI у поспішному запуску ChatGPT заради ринку, нехтуючи безпекою дітей. Також з’явилися позови від окремих осіб, які вважають, що чат-бот погіршив їх психічний стан.
За інформацією Common Sense Media — організації, що слідкує за цифровою безпекою молоді, версія ChatGPT для підлітків містить «неприйнятні ризики». Аналіз понад 4 тисяч запитів показав, що більше 25% випадків, коли потрібна була допомога через психічні кризи, залишались без реагування або потрапляли у пастку недосконалості моделі.
OpenAI спростовує ці результати і закликає Common Sense Media провести повторне дослідження, щоб підтвердити або спростувати висновки.
