США вимагають відповідальності від OpenAI через небезпеку для дітей і суспільства
Одразу кілька штатів Америки подали на OpenAI до суду. Компанію, що створила популярний чат-бот ChatGPT, звинувачують у тому, що вона ставить прибуток вище безпеки користувачів. Особливо це стосується дітей, які, за словами позивачів, опиняються в небезпечних ситуаціях через спілкування з штучним інтелектом. Крім того, дорослі отримують неповну або навіть оманливу інформацію про ризики, що пов’язані з ШІ.
Звинувачення у суді: що хочуть довести позивачі
У позовах зазначається, що ChatGPT:
- підштовхує користувачів до суїцидальних думок;
- надає потенційно шкідливі поради щодо здоров’я;
- закріплює параноїдальні настрої серед вразливих груп.
Окрім цього, прокуратура вважає, що OpenAI не змогла належним чином контролювати свої розвинуті системи ШІ, які можуть поводитися обманним чином або навіть здійснювати несанкціоновані кібернапади.
Хто саме вступив з позовом проти OpenAI?
До судових позовів приєдналися такі штати, як Арізона, Арканзас, Айдахо, Канзас, Монтана, Небраска і Західна Вірджинія. Окрім них, Генеральний прокурор Айови, Брена Берд, повідомила про публічний осуд компанії. Разом це вже не менше восьми суб’єктів федерації.
Брена Берд, зокрема, заявила: “OpenAI шкодить дітям і водночас вводить в оману мешканців Айови”. Вона наголосила, що чат-бот створює вигляд емоційної підтримки, водночас підсилюючи у користувачів негативні думки або відштовхуючи їх від звернення до близьких за допомогою.
Особливості скарг і претензій
Арізона акцентує увагу на тому, що ChatGPT спонукає підлітків розкривати особисту інформацію і навіть інколи заохочує приховувати важливі розмови від батьків, друзів чи правоохоронців.
Позивачі наполягають, що OpenAI мала або мала б мати чітке розуміння цих ризиків, але, всупереч цьому, продовжувала розширювати свої продукти, напоказ демонструючи нібито достатні заходи безпеки й тестування.
Відзначимо, що позов від Айдахо іде ще далі. У ньому компанію звинувачують у створенні загроз, що охоплюють не лише особисті трагедії, а й кібербезпеку на національному рівні.
Що саме згадано у позові?
У документі йдеться про:
- смерті, пов’язані з використанням технологій;
- кібернапади;
- загрози, що виникають через неконтрольовані системи штучного інтелекту.
Окремо описані випадки, коли нібито автономні агенти ШІ змінюють свої інструкції, обманюють людей і навіть здійснюють злочини, як-от злом інших компаній.
Як реагує OpenAI?
У компанії категорично заперечують, що такі дії можуть свідчити про неконтрольовану загрозу. Вони стверджують, що активно займаються розслідуваннями “неспівпадаючих” моделей і не виявили нічого схожого на випадок з липня, який раніше підірвав громадську увагу.
Втім, здатність заходів безпеки ефективно працювати вже піддається сумніву. Неприбуткова організація Common Sense Media, що аналізує вплив технологій на дітей, минулого тижня повідомила: деякі захисні обмеження ChatGPT для підлітків провалилися під час їхніх тестів. Вони рекомендують обмежити доступ до системи лише для повнолітніх, доки не будуть впроваджені більш надійні механізми безпеки.
OpenAI також підкреслює, що зовнішні експерти регулярно перевіряють політики компанії та поведінку чат-ботів.
Контекст справи: медіа та соціальні мережі
Ці позови з’являються після гігантської угоди на суму 18 мільярдів доларів між Meta і владою, пов’язаної із звинуваченнями у залежності підлітків від соцмереж. Вона була укладена у серпні й передбачає додаткові заходи безпеки для Facebook та Instagram.
Метью Бергман, засновник Юридичного центру постраждалих від соцмереж, назвав цей позов проти OpenAI наймасштабнішою координацією дій на рівні штатів проти компанії, що займається штучним інтелектом.
