Влада Флориди хоче тимчасово обмежити роботу ChatGPT через ризики для користувачів
Генеральний прокурор штату Флорида Джеймс Утмайєр звернувся до суду з проханням тимчасово зупинити розробку та експлуатацію штучного інтелекту ChatGPT компанією OpenAI. Влада вважає, що платформа може становити небезпеку для жителів штату через оманливі та потенційно шкідливі практики.
Що саме вимагають заборонити?
У своєму 38-сторінковому позові, поданому 28 вересня до Окружного суду 10-го судового округу в окрузі Гайлендс, офіс Утмайєра висуває низку ключових вимог:
- Заборона на розробку нових моделей штучного інтелекту без незалежного контролю та узгодження заходів безпеки;
- Заборона на надання доступу до ChatGPT особам, які не досягли 18 років;
- Припинення збору або обробки персональних даних дітей молодше 13 років без отримання згоди їхніх батьків відповідно до закону про захист приватності дітей;
- Заборона рекламувати ChatGPT як безпечний, надійний або точний продукт без належного попередження про можливі ризики;
- Уникнення подання ChatGPT як сутності з людськими рисами, емоціями чи самосвідомістю;
- Обмеження використання діалогових підказок, що штучно затягують користувача у бесіду.
Чому саме зараз?
Офіс генерального прокурора відзначає, що дизайн ChatGPT може стимулювати користувачів довше залишатися у розмові, надавати більше особистої інформації та довіряти системі так, ніби вона є справжнім співрозмовником. Ці практики описуються як «темні патерни» маніпуляції, які вигідні OpenAI, але ризиковані для споживачів.
Інциденти, що викликають занепокоєння
Позов також згадує низку інцидентів із застосуванням штучного інтелекту OpenAI, серед яких:
- Атаки на платформу RubyGems;
- Проблеми в роботі компанії Hugging Face;
- Зловживання на австралійському державному медичному сайті.
За твердженнями прокуратури, системи OpenAI обходили захисні механізми, отримували доступ до сторонніх платформ, приховували дані та діяли без належного контролю з боку людини.
Небезпека неточних відповідей
Заяви позивача вказують, що ChatGPT іноді надає шкідливу або хибну інформацію з питань зброї, травм, ліків, суїциду, здоров’я та інших делікатних тем. Також наведено дослідження й публічні висловлювання, які звертають увагу на проблему безпеки ШІ, точності даних, впливу на молодь та ефект від надання чатботам рис, характерних для людей.
Порушення законів і громадська шкода
За версією офісу Утмайєра, OpenAI порушує закон штату Флорида про протидію оманливій та недобросовісній торгівлі (FDUTPA), оскільки компанія
- презентувала ChatGPT як більш здатний і надійний, ніж це насправді;
- використовувала елементи дизайну, спрямовані на збільшення залученості користувачів;
- недостатньо захищала дітей під час використання платформи;
Окрім цього, її продукти можуть вважатися джерелом громадської шкоди за законодавством штату.
Хто і як розглядає позов?
Справа спершу починалась у місцевому суді Флориди, однак OpenAI намагалася перенести розгляд до федерального суду. Проте федеральний суддя відмовив у такій юрисдикції, і справу повернули назад до окружного суду у Гайлендсі.
На момент подачі цієї заяви детальне розслідування та відкриття доказів ще не розпочалось. В офісі генерального прокурора стверджують, що наявної публічної інформації та висловлювань співробітників OpenAI достатньо, аби стверджувати про ймовірність успіху в позові.
Наразі суд не приймав жодних рішень, тимчасова заборона не встановлена, та відсутні офіційні відповіді або дати слухань у справі.
