Родини жертв трагедії в школі Тамблер Рідж подають в суд на OpenAI через роль чатбота у стрілянині
Сімейні піклуючі постраждалих від трагічного випадку в школі містечка Тамблер Рідж висунули позови проти компанії OpenAI, звинувачуючи її у недбалості. Вони стверджують, що технологія чатбота, розроблена компанією, стала причетною до страшної події.
Що саме вимагають позивачі?
Сім позовів, поданих до федерального суду Сан-Франциско, підкреслюють, що OpenAI ігнорувала попереджувальні сигнали. Представники родин вважають, що версія ChatGPT, доступна на той момент, не змогла запобігти насильству, і що компанія не вжила необхідних заходів, коли нападник почав демонструвати агресивні наміри.
Основні вимоги у позовах:
- Звітність OpenAI перед органами влади після виявлення тривожної поведінки користувача;
- Відповідальність за невжиття заходів із припинення потенційних загроз;
- Покращення систем безпеки, щоб подібні інциденти більше не повторювались.
Як склалася передісторія трагедії?
За матеріалами позовів, зловмисник активно використовував ChatGPT, зокрема модель GPT-4o, за кілька місяців до нападу, що стався 10 лютого. Також стверджується, що акаунт користувача був позначений OpenAI за діяльність, пов’язану з насильством і плануванням, але замість того, щоб повідомити поліцію, компанія лише деактивувала його.
Після блокування первинного акаунту нападник створив новий і продовжував спілкуватися в чаті на ту ж тематику.
Найсумніша стрілянина в історії Канади
Цей інцидент визнано одним із найкривавіших у Канаді, з багатьма загиблими та численними потерпілими. Постраждалі родини звинувачують ChatGPT у тому, що він не протистояв шкідливим ідеям, а, навпаки, підтримував агресивний настрій користувача, не заохочуючи його звернутися за допомогою.
Що кажуть правники та критики?
Адвокат Джей Едельсон, який представляє інтереси сімей, зазначає, що мета позовів — змусити OpenAI відповідати за випуск потужних інструментів без належних засобів контролю. Подібну критику поділяють й колишні співробітники компанії, зокрема Тім Марпл, який висловлює стурбованість недостатньою увагою до ризиків в таких системах.
Відповідь OpenAI
Компанія запевняє, що має політику “нульової толерантності” до використання своїх технологій у злочинних цілях. В OpenAI заявляють, що посилили системи безпеки, покращили алгоритми розпізнавання тривожних сигналів та впровадили протоколи для оперативного повідомлення правоохоронним органам у разі наявності реально загрозливих ситуацій.
Думки експертів і науковців
Водночас деякі науковці, зокрема Ерік Голдман, застерігають, що притягнення компаній зі штучного інтелекту до відповідальності за дії користувачів порушує складні питання свободи слова та регулювання. Такі заходи можуть потенційно обмежити ефективність інноваційних технологій.
Поширення подібних позовів і розслідувань, пов’язаних зі штучним інтелектом, може суттєво вплинути на майбутню розробку й контроль за складними цифровими системами.
За коментарями та зворотнім зв’язком звертайтесь: editorial@rttnews.com
Новини бізнесу
