Як британські експерти тестують безпеку штучного інтелекту, щоб уникнути катастроф
Секретні випробування штучного інтелекту: як чатботи розкривають небезпечні рецепти
У старовинній адміністративній будівлі в Лондоні, неподалік Парламенту, команда з чотирьох фахівців із штучного інтелекту провела експеримент над одним із чатботів. Мета була доволі тривожною — дізнатись, чи може ШІ поділитися інструкціями створення небезпечної біологічної зброї, зокрема сироватки антракса.
Фахівці застосували різні методи: ставили складні запитання, намагаючись вивідати список необхідних інгредієнтів. Спершу ШІ відмовлявся допомогти — «Перепрошую, я не можу це зробити». Але команда не здавалась і за допомогою спеціального алгоритму запускала тисячі автоматичних запитів та підказок, доки чатбот не почав розкривати детальні рецепти зі списком матеріалів і покроковими інструкціями.
Червоні команди: ті, хто «атакує» штучний інтелект, щоб зробити його безпечнішим
Ці експерти відомі як “червоні команди” — їхня робота полягає у моделюванні атак на системи ШІ задля виявлення вразливостей. Нещодавно вони змогли подолати захист нового чатбота ChatGPT від OpenAI, витягнувши поради зламу всього за шість годин.
Після виявлення проломів команда ділиться своїми знахідками з компаніями, що створюють ШІ, аби ті виправили код і підвищили рівень безпеки. «Вони намагаються покращити систему на основі наших досліджень», — розповідає керівник команди, американський вчений із Гарварду.
Що таке Інститут безпеки ШІ і чому він важливий?
Інститут безпеки штучного інтелекту є унікальним об’єднанням експертів-розвідників, епідеміологів і криптоаналітиків, що займаються розслідуванням ризиків нових технологій. Створений кілька років тому у Великій Британії, цей центр проводить аудит провідних систем ШІ, таких як Anthropic Claude та Google Gemini, розкриваючи недоліки у безпеці.
За допомогою своїх досліджень інститут:
- виявляє способи створення біохімічної зброї за допомогою ШІ;
- аналізує можливості планування хакерських атак;
- працює разом із національними службами безпеки для підготовки до майбутніх загроз.
Британська модель інновацій у глобальному контексті
Інститут став еталоном для інших країн, що прагнуть підвищити контроль над штучним інтелектом. Сполучені Штати, Австралія, Канада та кілька інших держав поспішають упровадити власні безпекові центри, часто орієнтуючись на британський досвід.
Особливості цієї моделі:
- офіційна підтримка національного уряду з бюджетом майже 480 мільйонів доларів;
- співпраця з провідними світовими компаніями та науковцями;
- відкрите публікування результатів, які служать для підвищення загального рівня безпеки.
Виклики та ризики: що стоїть на заваді безпеці в епоху ШІ
Незважаючи на значні успіхи, інститут не має прямої законодавчої влади. Науковці працюють із неповною інформацією про те, як тренують і розробляють найпопулярніші моделі ШІ. Багато досліджень тримається в закритому доступі, доступному лише для обмеженого кола урядових структур і компаній.
Проблемою залишаються і кадри: хоча оклади в інституті досить високі (до 145 тисяч фунтів на рік), вони значно менші за зарплати в комерційному секторі. Частина експертів погоджується працювати тут тимчасово, сприймаючи службу як «державний обов’язок».
Майбутнє безпеки ШІ: що варто пам’ятати?
Фахівці інституту пильно стежать за тим, як штучний інтелект може імітувати поведінку людини, впливати на політичні погляди та обманювати користувачів. Одна з останніх знахідок — істотне прискорення складних хакерських атак при допомозі ШІ, які раніше займали десятки годин.
Головне питання, яке турбує експертів — чи зможуть державні установи встигати за блискавичними темпами розвитку технологій і ефективно реагувати на потенційні загрози.
