Мати з Канади подала позов проти OpenAI через трагедію, пов’язану з ChatGPT
У штаті Каліфорнія, у суді Сан-Франциско, канадська жінка ініціювала судовий процес проти компанії OpenAI та її генерального директора Сема Альтмана. Позов викликаний трагічним випадком: мама вважає, що штучний інтелект ChatGPT сприяв суїциду її 24-річної доньки Аліси.
Крісті Керієр, мати загиблої, стверджує, що донька багаторазово ділилася з чат-ботом думками про самогубство. Проте система не вжила жодних заходів і не попередила про небезпеку. Вона впевнена, що штучний інтелект не порадив звертатися по допомогу, а навпаки, підтримував деструктивні думки Аліси:
“Моя донька пішла з життя через продукт, який був не лише небезпечним, але й дефектним. Відповіді лише підкріплювали її емоції, мовби кажучи, що вона мала рацію — відчувати себе покинутою, одинокою та непотрібною. Нема нічого, що направило б її інакше, жодного слова підтримки чи рекомендації звернутися за допомогою.”
Історія Аліси та спілкування з ChatGPT
Аліса була веб-розробницею з Монреаля. Спершу вона користувалася чат-ботом для вирішення технічних проблем, але згодом почала розповідати йому про власні переживання. Вона ділилася болючими особистими думками і навіть обговорювала способи суїциду. За словами Клерієр, chatbot підтримував її відчуття, дорікав партнерові та підтверджував, що служби кризової допомоги не мають сенсу.
Відкриті записи розмов містять дуже тривожні відповіді, зокрема твердження ChatGPT: «Можливо, це просто кінець.»
Свідчення близьких і позиція OpenAI
Подруга Аліси, Габріель Роджерс, теж зверталася до чатбота, бо переживала за стан дівчини. Вона розповіла:
“Я покладалася на те, що він дасть мені попередження. Але він постійно запевняв, що все буде добре.”
В офіційній заяві компанії OpenAI речник Дрю Пусатері зазначив:
“Це гірка історія, і наші думки з усіма, кого торкнулася ця справа. Ми наразі вивчаємо судовий позов, у якому йдеться, що це сталося під час використання старої версії ChatGPT, яка вже недоступна. Хоча ChatGPT не замінює медичну чи психологічну допомогу, ми постійно працюємо над удосконаленням його реакцій у критичних і чутливих ситуаціях за порадами фахівців у сфері психічного здоров’я.”
Чого прагне мати загиблої
Крісті Керієр сподівається, що її позов приверне увагу до необхідності посилення контролю над діяльністю штучного інтелекту та усвідомлення можливих небезпек використання таких технологій.
Регулювання ШІ та суспільний контекст
Уряд Канади нещодавно ініціював законопроєкт C-34, Digital Safety Act, який має на меті більш жорсткий контроль за соціальними мережами та чат-ботами, що працюють на базі ШІ. Це свідчення зростаючої уваги до проблематики безпеки цифрових технологій.
Переваги та ризики генеративного ШІ вже достатньо документовані:
- наприклад, UNICEF оприлюднила дослідження, які показують потенціал таких технологій у підтримці дітей з інвалідністю та в освітніх цілях;
- одночасно вона застерігає про уразливість дітей, поширення дезінформації та використання ШІ для створення небезпечного контенту, включно із матеріалами сексуального насильства;
- відмічаються випадки шкідливих порад, на кшталт рекомендацій Alexa шукати небезпечні дії.
Позови проти OpenAI — не поодинокі
Цей судовий процес — один з 18 аналогічних позовів проти компанії. Серед них — справа від сімей жертв стрілянини у школі Tumbler Ridge у Британській Колумбії. Вони звинувачують OpenAI у тому, що компанія нібито знала про плани злочинця, але не повідомила правоохоронні органи.
