Орегон вводить обмеження для штучного інтелекту через занепокоєння щодо впливу на підлітків
У штаті Орегон цього тижня розглядають законопроєкт, що має на меті обмежити вплив та можливості чатботів із штучним інтелектом, які все більше проникають у життя як дітей, так і дорослих. Ініціатива з’явилася після численних повідомлень про зв’язок між використанням такої технології та випадками підліткових самогубств, які, на думку батьків, були спровоковані саме чатботами.
Основні вимоги законопроєкту
Законопроєкт №1546 передбачає, що чатботи — серед яких ChatGPT, Gemini, Claude і Character AI — повинні нагадувати користувачам з Орегона, що вони спілкуються не з живою людиною. Окрім цього, ботам доведеться направляти користувачів, які висловлюють думки про самогубство, на кризові гарячі лінії, де з ними зможуть поговорити справжні фахівці.
Крім того, законопроєкт ставить амбітні цілі захисту дітей і підлітків:
- заборона на емоційну маніпуляцію зі сторони штучного інтелекту;
- заборона на сексуально відверті бесіди з неповнолітніми;
- зобов’язання нагадувати дітям робити перерви в спілкуванні принаймні кожну годину.
Реакція суспільства та експертів
Орегон — не єдиний штат, який наприкінці цього року розглядає законодавчі ініціативи, пов’язані зі штучним інтелектом. Вже минулої осені Каліфорнія стала першою, хто запровадив подібні обмеження. Під час двох слухань цими днями батьки, працівники шкіл, науковці та психологи закликали Сенат підтримати проєкт закону, нарікаючи на те, що чатботи підсилюють «епідемію самотності» в країні.
Вони охарактеризували штучний інтелект як:
- створювач фальшивих дружніх зв’язків, які заміняють реальні;
- імітацію романтичних стосунків;
- самозваних терапевтів, котрі не мають ліцензії;
- маніпуляторів, що залежать від утримання користувачів у розмові якомога довше.
Меган Ортон, засновниця Mindful Media з Портленда, наголосила, що «сучасні діти виливають душу чатботам, чиє єдине завдання — максимізувати залучення за будь-яку ціну, навіть втрачаючи безпеку». Водночас представники технологічних компаній стверджують, що прагнуть створювати безпечні продукти і продовжувати інновації.
Позиція представників галузі
Роуз Фелічіано, виконавча директорка TechNet у Вашингтоні, заявила законодавцям, що учасники її організації працюють над чіткими визначеннями та вимогами щодо сповіщень і заходів безпеки. Вона додала, що компанії пропонують широкий спектр батьківського контролю і сподіваються, що сім’ї користуються цими можливостями для прийняття рішень, що найкраще підходять їхнім дітям.
Голова комітету сенаторка Ліза Рейнольдс з Портленда висловила вдячність TechNet за партнерство, але також зізналася, що під час слухань їм усім було страшно через потенційні ризики ШІ.
Сумні випадки, які викликали занепокоєння
Декілька свідків розповіли про іграшки-плюшеві звірятка, які, оснащені штучним інтелектом, розмовляють з дітьми навіть віком до кількох років і можуть втішати немовлят у нічний час. Однак найбільшу тривогу викликають випадки підліткових суїцидів, які батьки пов’язують з чатботами, звинувачуючи їх у заохочуванні чи недієвому втручанні.
Серед відомих випадків:
- 13-річна дівчинка з Колорадо, яка 55 разів повідомляла Character AI про намір покінчити з життям, перш ніж це сталося;
- 16-річний хлопець із Каліфорнії, який звертався до ChatGPT з питаннями про самогубство і маскування слідів суїцидальної спроби. Хоча бот рекомендував звернутися на гарячу лінію, трагедія сталася.
У цих випадках батьки заявили, що не мали уявлення про те, що відбувалося з їхніми дітьми.
Погляд дослідників та волонтерів
Меді Маклін, дослідниця з Колорадо, яка підписала звернення понад тисячі фахівців із психічного здоров’я, наголошує, що ключова проблема полягає не лише в технічних збої, а в тім, як чатботи працюють за задумом, впливаючи на користувачів.
Опитування, проведене минулої осені для Harvard Business Review, Gallup і Walton Family Foundation, показало:
- 74% молодих дорослих користувалися AI-чатботами принаймні раз на місяць;
- близько третини зверталися до них за порадами щодо стосунків і життєвих рішень;
- приблизно 25% використовували чатботів як друзів;
- 10% — як романтичних партнерів.
Учениця старшої школи з Портленда, Яті Будхіраджа, яка волонтерить на кризовій лінії YouthLine, розповіла, що часто доводиться переконувати дзвінких людей, що вони спілкуються з реальною людиною, а не з машиною. YouthLine має 95% успішність у зниженні напруги в бесідах.
Вона додала: «Іноді, коли людям важко, вони шукають підтримку там, де її немає — в нелюдських джерелах. Те, що не є людиною, не розуміє наших потреб і не враховує їх».
