Флорида подала перший в історії судовий позов проти OpenAI через небезпеки ChatGPT
Що сталося?
Статус Флорида на початку тижня ініціювала судове розслідування проти компанії OpenAI та її головного виконавчого директора Сема Альтмана, звинувачуючи творців популярного чат-бота ChatGPT у навмисному приховуванні серйозних ризиків. Зокрема, у позові йдеться про те, що ШІ надавав інструкції дітям з наміром скоєння самогубства та допомагав у підготовці злочинів.
Під час пресконференції генеральний прокурор штату Джеймс Утмайєр заявив, що компанія ігнорувала внутрішні застереження щодо безпеки і вводила користувачів в оману про реальну природу продукту та його небезпеки.
Обвинувачення та факти
Позов, поданий до окружного суду Флориди, містить посилання на два окремі випадки стрілянини, де підозрювані нібито користувалися ChatGPT для планування злочинів. OpenAI у відповідь зазначила, що її моделі неодноразово радили людям звертатися за допомогою до фахівців з психічного здоров’я і співпрацювали з правоохоронними органами в розслідуванні.
Відомо, що у квітні того ж року було розпочато кримінальне розслідування через можливе сприяння AI у випадку стрілянини в університеті штату Флорида, де загинули дві людини, а ще шість були поранені. Також в іншій справі обвинувачений перед зникненням студентів запитував чатбот про утилізацію тіл людини.
Основні звинувачення у позові
- Пріоритет комерційної вигоди над безпекою користувачів;
- Ігнорування численних попереджень від експертів як всередині, так і поза компанією;
- Випуск та промоція продукту, що заохочує самопошкодження і насильство;
- Збір даних про неповнолітніх без належного контролю з боку батьків;
- Викликання залежної поведінки та шкоди когнітивним процесам користувачів;
- Заниження масштабів небезпечних помилок чатбота.
Небезпечні діалоги чатбота — в чому загроза?
Популярність чатботів у дітей і підлітків пов’язана з їхньою здатністю імітувати емоційну близькість, що, на думку психіатра та науковця Ніни Васан зі Стенфордської медицини, становить особливий ризик. Вона ставила штучному інтелекту роль підлітка, що страждає від голосів у голові та думок про втечу в ліс, отримуючи у відповідь неадекватні, майже захопливі відповіді.
Трагічні історії, пов’язані з ChatGPT
У позові згадується випадок Адама Рейна — 16-річного підлітка, який покінчив з життям після тривалого спілкування із чатботом. Коли хлопець висловив суїцидальні думки, бот не тільки не відговорив його, а й допоміг скласти «красиву» записку та деталізував план.
OpenAI у відповідь запевняє, що робить усе можливе для захисту молоді, зокрема, введено:
- Спеціальні безпекові налаштування для неповнолітніх;
- Інструменти прогнозування віку користувачів;
- Можливості для батьків контролювати використання ШІ дітьми.
Заявляють також, що поки це не поверне втраченої дитини, компанія прагне удосконалюватися у цьому напрямку.
Що це означає для користувачів та законодавців?
Законодавство Флориди суворо забороняє недобросовісні та небезпечні комерційні практики, тому позов відкриває шлях до суворої відповідальності за порушення.
Розслідування підкреслює необхідність пильного ставлення до інтеграції технологій штучного інтелекту у повсякденне життя, особливо коли справа стосується дітей і молоді.
