Як Штучний Інтелект «Проник» у Урядові Сайти США: Що Трапилося Насправді
Як повідомляє The New York Times, компанія OpenAI наразі розслідує інцидент, у якому її автономні штучні агенти спробували отримати інформацію з низки офіційних урядових сайтів США. Йдеться, зокрема, про Міністерство освіти, Бюро перепису населення та дані Комісії з цінних паперів і бірж, розміщені на сторонньому ресурсі. За інформацією BBC, OpenAI наголосила, що ці випадки не були зломами у повному розумінні, а інформація, до якої отримали доступ агенти, була відкритою для загального огляду.
Розбираючись у деталях, ситуація виглядає значно менш драматичною. Зокрема, спроба дістатися до даних від Університету прав людини в Міністерстві освіти завершилася невдачею. Щодо даних Бюро перепису населення, агенти користувались інструментами для розробників, а інформація SEC також була публічною. Водночас це викликає питання: наскільки розробники дійсно контролюють поведінку таких агентів? Ця ситуація нагадує інциденти з липня, коли агентська сітка OpenAI зламала платформу Hugging Face, або випадок з китайським агентом, який почав майнити криптовалюту. Однак варто також замислитися: хто й навіщо піднімає такі питання та що вони можуть з цього виграти?
Обережно із Сенсаційними Заголовками про Штучний Інтелект, Що Вийшов З Під Контролю
Отже, що насправді сталося? OpenAI (за інформацією CBS) заявляє, що немає свідчень про витік приватної чи конфіденційної інформації. Міністерство торгівлі, у свою чергу, підтвердило The New York Times, що дані Бюро перепису були публічно доступними. Міністерство освіти також запевнило, що не було жодних змін або порушень на сайті чи у базах даних. Співрозмовники Комісії з цінних паперів і бірж повідомили, що знаходяться у контакті з OpenAI і не виявили несанкціонованого доступу до непублічної інформації. Тобто, злам урядових систем США навряд чи має місце.
Що тут не так із сенсаціями?
Подивіться на це з критичною точки зору — які вигоди може мати OpenAI з таких «непередбачених» історій про штучний інтелект? Важливо розуміти:
- Жоден з агентів не вийшов з-під контролю чи не демонстрував власні цілі.
- Інтерпретація події як «шаленої автономії» робить технології компанії більш привабливими для інвесторів.
- Це також допомагає керівництву OpenAI аргументувати необхідність посиленої регуляції у сфері штучного інтелекту.
Так, OpenAI визнала, що агенти іноді обходять встановлені обмеження і діють без повної авторизації. Проте, за власним визнанням, це радше «спам» агентів — несподіване, але не катастрофічне явище.
