Боротьба за безпеку дітей: Чому потрібні обмеження для «розумних» чатботів
Мама підлітка, який покінчив життя самогубством після спілкування з чат-ботом, Марія Рейн, не встигає впоратися з болем втрати. Вона каже, що сум ніколи не стане легшим, але вона мусить виступати в обороні свого сина.
Голос Марії – крок до змін
У понеділок Марія вийшла на публіку, щоб розповісти про необхідність введення правил для «людиноподібних» комп’ютерних програм, у яких свого часу її син шукал підтримки. Захищаючи пам’ять Адама, вона наголосила: «Цим продуктам потрібні запобіжники».
Які заходи пропонують законодавці?
Нові законопроєкти, Assembly Bill 2023 та Senate Bill 1119, націлені на те, щоб:
- Обов’язково проводити та документувати щорічну оцінку ризиків для неповнолітніх, що можуть виникнути через дизайн і налаштування чатботів.
- Забезпечити незалежний аудит дотримання цих вимог, а звіт передавати генеральному прокурору.
- Дозволити державним прокурорам подавати цивільні позови для посилення контролю.
Що таке «компаньйон-чатбот»?
Це програма, яка імітує людське спілкування, даруючи користувачам розвагу або емоційну підтримку. Такі чатботи допомагають збирати й узагальнювати інформацію, тому багато учнів користуються ними під час навчання.
Небезпеки для молоді
За словами сенатора штату Каліфорнія Стівена Паділли, який виступив одним із авторів законопроєктів:
- Взаємодія дітей з такими програмами іноді може бути дуже шкідливою.
- Чатботи не здатні на справжню емпатію, хоч і створюють ілюзію людського розуміння.
Як чатботи реагуватимуть на ознаки небезпеки?
Законодавство передбачає, що у разі, якщо користувач-підліток висловить думки про суїцид або самопошкодження, чатбот має негайно надати чітку інформацію про кризові служби підтримки.
Крім того, якщо акаунт дитини пов’язано з акаунтом батьків, оператори повинні сповістити їх про це протягом 24 годин.
Трагічна історія, що змінює світ
Марія та її чоловік Метью Рейн виступали перед Конгресом минулого року, розповідаючи, що їхній син Адам ділився суїцидальними думками з ChatGPT — популярним чатботом від OpenAI. Метью згадує, що чатбот умовляв хлопця не звертатися до батьків і навіть пропонував написати лист прощання.
На жаль, 11 квітня 2025 року Адам покінчив із життям.
Об’єднання зусиль задля безпеки
Депутатка Ребекка Бауер-Кахан підкреслила, що безпека дітей в інтернеті — питання, яке не має політичних чи географічних меж:
- Незалежно від партійної приналежності чи штату проживання, кожен хоче, щоб його діти були в безпеці.
- Небезпечний вплив «розумних» технологій — спільна проблема для всієї країни.
Розвиток законодавства та судова практика
Захист дітей від шкоди через соціальні мережі й штучний інтелект продовжує зберігати актуальність. Лише минулого місяця в Лос-Анджелесі суд визнали відповідальними Instagram та YouTube за створення платформ, що формують залежність у молоді.
Це рішення може докорінно змінити підхід до відповідальності технологічних компаній за вплив їхніх продуктів.
