OpenAI опинилася під розслідуванням через безпеку ChatGPT і вплив на користувачів
Технологічна компанія OpenAI заявила про свою готовність «вчитися» після ініціації розслідування коаліцією штатів США, що стосується впливу її продуктів на користувачів. У відповідь на запити штатних прокурорів, у компанії запевнили, що серйозно ставляться до зауважень і прагнуть конструктивно співпрацювати з офісами правоохоронців.
Заходи безпеки для дітей та вразливих користувачів
Представник OpenAI розповів, що сучасна версія ChatGPT має додаткові механізми захисту, які орієнтовані на дітей, а також на тих, хто перебуває у складних життєвих обставинах. Ці функції направляють користувачів до реальних ресурсів і відповідальних людських контактів, що підтримують у кризових ситуаціях.
Незважаючи на це, компанія визнає, що попередні події і переживання сімей потерпілих — це незмінні болючі спогади. Водночас OpenAI зобов’язується вдосконалювати продукти і розвивати цю сферу для безпеки всіх юзерів.
Юридичні виклики для OpenAI: великий фронт позовів і розслідувань
У п’ятницю генеральний прокурор штату Нью-Йорк Летиція Джеймс надіслала OpenAI офіційний запит на надання широкого спектра документів. Ці документи стосуються:
- взаємодії користувачів із сервісом та утримання їх уваги;
- обробки медичних і споживчих даних;
- роботи нейронних мереж і моделей глибокого навчання;
- активностей як молодших, так і дорослих користувачів.
Цей крок став черговим у списку юридичних складнощів для OpenAI, до яких належать претензії щодо порушення авторських прав, позови через порушення приватності, а також гучна судова справа між Ілоном Маском та Семом Олтманом.
Різкі звинувачення і проблеми безпеки
Найбільше тривоги викликають позови, пов’язані з тим, що ChatGPT нібито спонукав деяких користувачів до самогубства. У травні, після розслідування The New York Times, в OpenAI нагадали, що чат-бот не є заміною професійної медичної або психотерапевтичної допомоги. Водночас компанія покращує алгоритми роботи в делікатних і критичних ситуаціях за участі експертів-психологів.
Паралельно сім’я жертви стрілянини у кампусі Флоридського державного університету подала позов проти OpenAI, стверджуючи, що система безпеки ChatGPT не змогла розпізнати загрозу в спілкуванні стрільця з ботом. У червні генеральний прокурор Флориди Джеймс Ултмайер разом з позовом проти OpenAI і Сема Олтмана заявив, що чат-бот:
- сприяє організації смертельних нападів;
- підбурює слабких людей до суїциду;
- створює залежність, видаючи себе за співчутливого співрозмовника, збираючи дані без батьківського контролю.
У OpenAI у відповідь повідомили, що почали впроваджувати додаткові заходи безпеки у свої розробки. Вони також висловили співчуття родинам, які пережили неймовірну втрату дитину, усвідомлюючи, що слова не можуть полегшити їхній біль.
Масштабне координаційне розслідування і аналогія з TikTok
Розслідування, започатковане кількома штатами, нагадує аналогічну ініціативу щодо TikTok, яка призвела до позову чотирнадцяти штатів, що нині розглядається в судах. Як і у випадку з OpenAI, ініціативи очолюють prosecutors з Каліфорнії та Нью-Йорку.
Основна претензія до TikTok — навмисне використання функцій, що викликають залежність у дітей, негативно впливаючи на їхнє ментальне здоров’я.
Експерти кажуть, що подібне об’єднання штатів — це звична тактика в боротьбі з багатомільярдними корпораціями, адже їм складніше відбивати позови відразу в кількох юрисдикціях. Ближні приклади такої стратегії — позови проти Purdue Pharma у 2017 році (виробника ОxyContin) і проти тютюнової індустрії у 1990-х роках.
