Новий рівень контролю: як OpenAI перевіряють через ChatGPT і користувачів
Лише кілька днів тому OpenAI повідомила про приватне подання документів для публічного розміщення акцій. Та вже зараз компанія опинилася під пильним оком державних прокурорів, які розслідують, як вона працює з користувачами, обробляє дані та запобігає шкоді, пов’язаній зі своїм потужним мовним ШІ — ChatGPT.
Що трапилося?
Згідно з інформацією The Wall Street Journal, минулої п’ятниці генеральний прокурор штату Нью-Йорк направив OpenAI офіційний запит на надання документів у рамках розслідування, яке ініційовано коаліцією різних штатів. У центрі уваги — реклама компанії, методи залучення користувачів, упередженість моделі, збір споживчих і медичних даних, а також конкретне ставлення до дітей та літніх людей.
Втім, OpenAI не розкриває, які саме штати долучилися до перевірки, а також який перелік документів був запрошений. Все це відбувається на тлі судових протистоянь, де, зокрема, OpenAI нещодавно здобула перемогу у справі за позовом співзасновника Ілона Маска, проте ще має справлятися з іншими позовами — щодо авторських прав і навіть звинуваченнями у причетності ChatGPT до трагічних випадків серед користувачів.
Чому це важливо?
ChatGPT уже став буденним помічником для роботи, навчання та повсякденних питань мільйонів людей. Якщо регулятори перевірятимуть, як OpenAI просуває продукт, утримує увагу користувачів і звертається з чутливою інформацією, це може вплинути на те, які стандарти безпеки та захисту даних будуть у майбутньому — особливо для дітей і літніх осіб, які частіше за інших піддаються маніпуляціям чи неправдивим повідомленням.
Біля цього стоїть і ширша проблема: штучний інтелект вимагає масштабної інфраструктури. Ось кілька ключових моментів:
- Сучасні дата-центри, що живлять AI-моделі, споживають величезні обсяги електроенергії та води.
- Зростання попиту через поширення штучного інтелекту здатне навантажувати енергосистеми, збільшувати операційні витрати і, відповідно, підвищувати рахунки за електрику для всіх.
- Хоча технологія обіцяє підвищити загальну ефективність у різних сферах — від медичних досліджень до оптимізації екологічних систем — її вплив на навколишнє середовище та інфраструктуру повинен контролюватися.
До того ж, виклики безпеки й відповідальності в індустрії штучного інтелекту стають дедалі помітнішими. Наприклад, на початку цього місяця прокурор штату Флорида Джеймс Утмайєр подав позов до OpenAI і її CEO Сема Олтмана з вимогою визнати, що компанія “ігнорує внутрішні та зовнішні попередження щодо безпеки, наражає дітей на серйозний ризик і допустила, що небезпечний продукт отримав доступ мільйонам жителів Флориди.”
Що кажуть у компанії та за її межами?
У відповідь на розслідування представники OpenAI запевняють, що серйозно ставляться до цих питань. У їхній офіційній заяві наголошується:
- Штучний інтелект — нова й потужна технологія, і компанія щодня працює над тим, щоб приносити її користь у безпечний та відповідальний спосіб.
- Сучасна версія ChatGPT пропонує підвищений рівень захисту для молодшої аудиторії та людей у складних життєвих ситуаціях з додатковими механізмами, що направляють їх до реальних ресурсів та кваліфікованої допомоги.
Заява прокурора Утмайєра про ігнорування OpenAI внутрішніх і зовнішніх сигналів безпеки свідчить про те, що юридичний та політичний тиск на сферу штучного інтелекту переходить від абстрактних страхів до реальних звинувачень у нанесенні шкоди.
