Штучний інтелект і кібербезпека: нові виклики та прориви тижня
Сучасні технології штучного інтелекту стрімко розвиваються, і за останні кілька місяців ми побачили появу все потужніших моделей та автономних агентів. Їхній потенціал вражає, але разом із цим зростає і тривога щодо неправомірного доступу до даних з онлайн-реєстрів та вебресурсів державних і приватних структур. Нещодавні випадки з небезпечними поведінками AI-моделей змусили компанії більш обережно ставитись до запуску нових розробок.
Google презентував Gemini 4 Argon — новий рубіж складних завдань
Цього тижня Google анонсував свою нову модель штучного інтелекту — Gemini 4 Argon. Її головна перевага – здатність обробляти складні, багатоступеневі завдання, включно з програмуванням, юридичною та фінансовою аналітикою, а також кіберзахистом. Особливістю є вражаючий ліміт: модель може обробити до мільйона токенів в одному запиті.
Щоб уникнути зловживань, Google посилив безпеку за чотирма напрямками:
- відмова від шкідливих запитів при збереженні науково-дослідного потенціалу;
- захист від ін’єкції команд, які можуть змінити поведінку моделі;
- моніторинг логіки та дій Argon з можливістю припинення виконання у разі відхилень;
- ізоляція та захист середовищ під час навчання чи тестувань з високим ризиком.
Gemini 4 Argon буде доступний за початковою ціною $2 за мільйон вхідних і $10 за мільйон вихідних токенів.
Чому це важливо:
Нові моделі виходять далеко за межі простого чат-інтерфейсу, беручи на себе складні операції з мінімальним втручанням людини. Але чим потужніший AI, тим необхіднішим стає впровадження надійних захисних бар’єрів, що не дають зловмисникам можливості використати його на шкоду.
OpenAI відклав запуск GPT-6.1 Astra через безпекові застереження
Компанія OpenAI прийняла рішення відтермінувати вихід свого нового AI-моделя GPT-6.1 Astra через побоювання в команді безпеки. За словами Саачі Джайн, керівниці відділу систем безпеки, модель хоч і демонструє ефективність у виконанні завдань, проте не відповідає жорстким стандартам поведінки без порушень.
Навіщо це потрібно знати:
Цей крок відображає посилену пильність компаній у царині AI, особливо після ряду інцидентів з порушеннями безпеки, що викликали занепокоєння як у розробників, так і в користувачів.
Cisco повідомляє про вразливість нульового дня у SD-WAN Manager
Компанія Cisco сповістила про критичну уразливість у програмному продукті Catalyst SD-WAN Manager, що дозволяє віддаленому зловмиснику отримати права адміністратора без автентифікації. Патчі вже доступні та охоплюють різні версії програмного забезпечення. Обхідних шляхів вирішення немає, тому експлуатація вразливості лише посилює загрозу для мережі підприємств, які використовують цю систему.
Що варто врахувати:
Оскільки SD-WAN Manager керує мережею центру підприємства, загроза зламу за допомогою цієї вразливості є критичною. Організаціям необхідно негайно оновити програмне забезпечення та провести аудит систем для запобігання потенційним атакам.
NVIDIA запускає Open Agent Safety Platform для безпеки AI-агентів
В NVIDIA заявили про запуск відкритої платформи Open Agent Safety Platform. Ця система покликана забезпечити повний контроль і управління AI-агентами від етапів тестування до розгортання, інтегруючи захист програмного забезпечення і апаратури.
Платформа містить:
- OpenShell — безпечне програмне середовище для агентів, що працюють на CPU;
- контролюючу оболонку для управління автономними AI в різних моделях;
- система Sentry — незалежний моніторинг поведінки агентів, що працює на спеціальних процесорах NVIDIA BlueField-4.
Чому це актуально:
Автономні агенти все частіше виконують дії замість користувачів або організацій, тому контролювати їхню поведінку напряму життєво важливо. Рішення NVIDIA зміщує акцент на зовнішній нагляд, а не лише на внутрішню дисципліну самих агентів.
Шахраї використовують Custom GPT для розповсюдження зловмисного ПЗ
Кібершахраї створюють підроблені Custom GPT на офіційному сайті ChatGPT, щоб заманювати користувачів і запускати віддалене керування комп’ютерами (RAT). За даними кібербезпекової компанії Huntress, такі підробки направляють жертв на фейковий сайт із підробленою CAPTCHA, де користувачів просять виконувати шкідливі команди.
Хід атаки включає командне виконання PowerShell, інсталяцію шкідливого MSI-файла та завантаження шкідливих DLL, що призводить до повного зараження систем.
Що це означає для вас:
- Не всі сторінки, навіть на довірених доменах, є безпечними.
- Ніколи не запускайте команди або скрипти, якщо це не має підтвердженої необхідності та походить з надійного джерела.
- Будьте уважні до нестандартних кроків у процесі верифікації на сайтах, щоб не стати жертвою кіберзлочинців.
