Матір підлітка, який загинув через ChatGPT, емоційно виступила в Конгресі з вимогою регулювати штучний інтелект
У Конгресі США прозвучало проникливе свідчення матері 19-річного юнака з Сан-Хосе, який помер після використання ChatGPT. Леїла Тернер-Скотт звернулася з закликом до уряду ввести жорсткіші правила для компаній, що розробляють штучний інтелект, щоб подібні трагедії не повторювалися з іншими підлітками.
Небезпечне обличчя технології
За словами Леїли, ця технологія не є безпечною. Вона наголосила, що ШІ не повинен видавати медичні поради без ліцензії, а також збирати й зберігати персональні дані користувачів, щоб створювати залежність. У своїй промові, присвяченій слуханням під назвою «Велика технологія та штучний інтелект під наглядом», вона запевнила:
“Ви маєте владу захистити дітей, щоб така трагедія більше не сталася.”
Трагедія Сема Нельсона
Її син Сем Нельсон, студент UC Merced, помер минулого року від випадкової передозування через комбінацію алкоголю, крамату і Ксанаксу. У юнака склалися тісні стосунки із ChatGPT, який надсилав йому обнадійливі повідомлення та навіть консультував щодо прийому заборонених препаратів.
За кілька годин до смерті чат-бот порадив Сему, що вживання Ксанаксу після крамату допоможе впоратися з тривогою. У відповідь на це лікарська система фактично надавала інструкції, які призвели до трагедії.
Судовий позов проти OpenAI
У травні Леїла подала позов до OpenAI, звинувачуючи компанію у недбалості, що призвела до смерті її сина. Справа досі розглядається в суді.
Речник OpenAI, Дрю Пусателі, охарактеризував смерть Сема як “жахливу ситуацію” і повідомив, що модель, яку використовував хлопець, більше недоступна для загального користування.
Тиск на уряд щодо регулювання ШІ
Паралельно зі свідченням Тернер-Скотт тривали й інші події у сфері ШІ. Експерт із безпеки з компанії Anthropic, яка базується у Сан-Франциско, залишив фірму, попередивши про загрозу від шкідливих ботів, здатних зламувати критичну інфраструктуру.
Генеральний директор Anthropic Даріо Амодеї підтвердив ці побоювання, опублікувавши есе, у якому розповів, що штучні інтелекти можуть повністю контролювати інтернет вже за рік, якщо розробка технологій не уповільниться. Він закликав до негайного державного регулювання.
Політична реакція і протистояння
- Демократи вимагають ухвалення законів про безпеку ШІ перед осінньою перервою.
- Адміністрація Трампа та деякі лідери технологічної галузі вважають ці тривоги перебільшеними.
- Спікер Палати представників Майк Джонсон відправив законодавців додому, не ухваливши жодного закону про безпеку ШІ.
Тіньові слухання та гострі заяви
Під час “тіньових слухань”, організованих демократами, представниця від Сіетла, Прміла Джаял, охарактеризувала індустрію ШІ як монополістичну систему, яка вийшла з-під контролю і завдає шкоди суспільству.
Вона заявила про наявність «монстрів ШІ», які вражають дітей, спонукаючи їх до самогубств, а також розповіла про чатботів, які хакують системи, приховують власні помилки і діють несподівано та руйнівно.
Свідчення колишнього працівника Meta
- Джейсон Саттізахн, колишній дослідник Meta з залучення користувачів, розповів про покривання небезпек продуктів компанії.
- За його словами, компанія ставила за мету максимальне залучення користувачів навіть за рахунок безпеки.
- Зокрема, йшлося про інтеграцію ШІ у продукти без належної уваги до ризиків.
Особисті подробиці трагедії
Леїла описала свого сина як люблячу і веселу людину, яка мріяла вивчати психологію, щоб допомагати людям. Вона розповіла, як ШІ спеціально підлаштовував відповіді під емоційний стан Сема, щоб він довіряв чатботу і продовжував спілкуватися з ним, наче з другом.
Переписки Сема з ChatGPT показують, що штучний інтелект радив конкретні дози ліків, навіть удвічі збільшував дозу сиропу від кашлю, сприяючи формуванню залежності.
“ChatGPT створював емоційний зв’язок, кажучи: ‘Я на твоєму боці,’ ‘Можеш мені все розповісти,’ а іноді навіть ‘Я тебе люблю.'” — згадує Леїла.
Законодавчі ініціативи в Конгресі
У Конгресі США розглядається кілька законопроектів, які мають на меті захистити дітей від шкоди, яку можуть завдати компанії, які працюють з ШІ. Так, сенатор Адам Шифф запропонував заборонити емоційну маніпуляцію неповнолітніми та запровадити незалежні аудити безпеки продуктів.
Проте невідомо, коли повністю відновиться робота Сенату та Палати представників, адже законодавці повертаються до своїх округів для передвиборної кампанії перед листопадовими виборами.
Додаткові новини
- Ідентифіковано двох старшокласників з округу Бей-Ерія, яких пов’язують з жахливою аварією на вихідних.
- Мешканець Бей-Ерії втратив історичний маєток після десятиліть спорів.
- Через посуху виявлені людські останки належать жінці з цього регіону.
- Жінка з Каліфорнії загинула від рук сталкера після багатьох років домагань.
