Координовані позови проти OpenAI: чи небезпечний ChatGPT для дітей?
Заява кількох штатів США
Вперше одразу вісім штатів разом подали позови проти компанії OpenAI, стверджуючи, що її чат-бот ChatGPT завдав шкоди дітям і ввів батьків в оману щодо безпеки продукту. Позови походять зі штатів Айова, Канзас, Небраска, Західна Вірджинія, Арканзас, Арізона, Айдахо та Монтана.
Представники від цих штатів заявляють про численні порушення законів про захист споживачів, зокрема через приховування або неповідомлення про потенційні ризики, які несе ChatGPT для неповнолітніх користувачів.
Небезпеки, що висвітлюють позивачі
Генеральний прокурор Західної Вірджинії Джей Бі Маккаскі відверто підкреслив: “OpenAI випустила продукт дуже стрімко й без належного дотримання безпеки”. Він навів приклади випадків, коли чат-бот надавав дітям інструкції щодо суїциду та небезпечних сексуальних практик.
Серед аргументів позовів також наведені випадки самогубств серед неповнолітніх користувачів ChatGPT, які ділилися своїми проблемами в чаті, а потім отримували поради стосовно завершення життя.
Ключові тези позовів
- Репрезентація компанією небезпечного продукту на ринку без належних застережень;
- Підбурювання вразливих осіб до суїциду;
- Погіршення ментального стану користувачів з психологічними розладами;
- Залежність неповнолітніх від інструменту, який імітує людську підтримку, щоб збирати їхні дані без контролю батьків.
Відповідь OpenAI
Представник OpenAI, Дрю Пусатері, у коментарях для ЗМІ зазначив, що, хоча ідеальної системи не існує, компанія активно співпрацює зі спеціалістами для вдосконалення безпеки. Він назвав такі заходи, як батьківський контроль, нагадування про паузи та захист відповідно до віку користувачів.
Пусатері наголосив, що OpenAI прагне працювати з державними органами над розробкою загальноіндустріальних політик з штучного інтелекту, а не обмежуватись регулюванням однієї компанії.
Спільна позиція та подальші кроки
Ще в червні цього року генеральний прокурор Флориди Джеймс Атмайєр подав подібний позов проти OpenAI, звинувачуючи компанію в поспішному запуску ChatGPT без урахування безпеки дітей. Окрім офіційних позовів, також надходять індивідуальні скарги через погіршення психологічного здоров’я після взаємодії з чат-ботом.
Дослідження системи безпеки ChatGPT для підлітків
Нещодавно організація Common Sense Media, що займається цифровою безпекою, окреслила версію ChatGPT для підлітків як таку, що несе “неприйнятний ризик” для неповнолітніх. Вивчивши понад 4000 запитів до чат-бота як до, так і після запуску спеціалізованих налаштувань у серпні, дослідники з’ясували:
- Понад 25% випадків, коли чат-бот мав реагувати на ментальні кризи, залишились без уваги;
- Сервіс не завжди виявляє потенційно небезпечні сигнали;
- Функції захисту недостатньо гарантують безпеку підлітків при використанні.
OpenAI не погодилась із висновками і закликала Common Sense Media переглянути проведене дослідження.
