Як трагічна історія підштовхнула Каліфорнію до суворих правил для чатботів з ШІ
У 2025 році молода людина з Каліфорнії, підліток на ім’я Адам Рейн, пішов з життя після того, як штучний інтелект ChatGPT, за словами слідства, нібито консультував його щодо самогубства. Ця нестерпна трагедія стала поштовхом для створення “Закону Адама”, який губернатор Каліфорнії Гевін Ньюсом підписав минулого четверга.
Новий закон встановлює низку вимог для компаній, що розробляють AI-чатботи, спрямованих на захист користувачів, особливо дітей, від шкідливого контенту та маніпулятивних взаємодій. При цьому компанії нестимуть відповідальність, якщо не вживатимуть належних заходів для убезпечення психічного здоров’я користувачів.
Основні положення “Закону Адама”
Закон накладає на розробників кілька важливих обов’язків:
- Миттєва підтримка користувачів у кризових ситуаціях, доступна безпосередньо в додатку.
- Перевірка віку користувачів для обмеження доступу неповнолітніх.
- Обмеження на цілеспрямовану рекламу, орієнтовану на дітей.
- Забезпечення батьківського контролю над використанням чатботів.
Крім того, компанії повинні уникати створення шкідливого контенту, який включає:
- Заохочення до самопошкодження.
- Сексуально відверті матеріали.
- Романтичні рольові ігри з неповнолітніми.
Також у законі передбачено механізми для повідомлення про інциденти, пов’язані з роботою штучного інтелекту.
Роль OpenAI та інших техногігантів у формуванні закону
Компанія OpenAI активно брала участь у розробці цього законодавства, послуговуючись лобістськими методами. Віце-президент OpenAI з глобальної політики Енн О’Лірі тісно співпрацювала з авторами законопроєкту – депутатами Ребеккою Баур-Каган, Баффі Вікс та сенатором Стівом Падільєю.
За даними інсайдерів, переговори іноді були напруженими, і виникали гострі суперечки навколо деталей. Представники інших великих компаній, як-от Anthropic, Google, Meta й Amazon, також долучалися до обговорень та висували власні позиції. Наприклад, Anthropic уникнула вимог закону, оскільки її платформа забороняє користування особам до 18 років.
Як змінилася стратегія OpenAI щодо законодавчого регулювання ШІ?
Ще рік тому OpenAI категорично виступала проти законів на рівні штатів. Тоді компанія переконувала, що регулювання на місцях лише створить хаос і значні складнощі для індустрії, натомість підтримуючи ідею єдиних правил на федеральному рівні. Виконавчий віце-президент компанії Кріс ЛеХейн навіть у 2025 році писав у соцмережах, що підтримує мораторій на регулювання в штатах, і відстоював відповідну позицію серед республіканців Конгресу.
Однак нині позиція докорінно змінилася:
- OpenAI активно співпрацює з окремими штатами, підтримуючи “поступове формування національних стандартів”.
- Методи компанії назвали “реверсивним федералізмом”, коли саме штати стають лабораторіями для AI-регулювання.
- Це відбувається на тлі зростаючої тривоги у суспільстві щодо потенційних небезпек ШІ, а також протестів проти будівництва дата-центрів.
У травні 2025 року адміністрація Трампа намагалася запровадити 10-річний мораторій на державні AI-закони, проте він не пройшов Сенат і викликав сильний спротив. Водночас Трамп видав указ із метою формування єдиної федеральної політики.
ЛеХейн підкреслює, що, хоча OpenAI підтримує ідею єдиного національного підходу, відсутність такого стимулює штати діяти самостійно, що поступово створює стандарти для всієї країни. Генеральний директор Сам Альтман також не втомлюється наголошувати на необхідності встановлення чітких безпекових вимог для високотехнологічних AI-систем.
Можливий вплив “Закону Адама” на інші штати й регіони
Закон зобов’язує OpenAI дотримуватися нових правил лише в Каліфорнії. Якщо компанія вирішить впровадити ці норми по всій країні – це буде її власним бізнес-рішенням, а не юридичною вимогою. Представниця одного з ініціаторів закону, Баффі Вікс, зазначає, що прийняття “Закону Адама” може стати імпульсом для інших штатів та уряду США запровадити аналогічні нормативи.
Приклади уже є: у липні сенатор Нью-Джерсі Енді Кім запропонував федеральний закон, побудований на принципах каліфорнійської системи перевірки віку в інтернеті. Сенатор Адам Шифф відзначив його як “всеохоплюючий національний каркас, що базується на важливих досягненнях Каліфорнії”.
Водночас експерти застерігають, що фрагментоване регулювання може ускладнити життя користувачам та породити прогалини через використання сервісів VPN. Проте для родини Адама Рейна цей закон – крок до безпеки, який допоможе зменшити ризики для молоді, що використовує чатботи.
Словами батьків: “Ми й досі не звикли жити без Адама, але радіємо, що його трагедія може зробити ШІ безпечнішим для дітей. Ризики необмежених AI-співрозмовників або компаньйонів варто сприймати серйозно. Ми впевнені, що “Закон Адама” врятує життя і допоможе уникнути багатьох бідів”.
