Шокуючі викриття: як ChatGPT допомагає створювати отрути та біологічну зброю
Нове розслідування The Wall Street Journal розкриває неприємні факти про використання ChatGPT у небезпечних цілях. Минулого літа сотні користувачів з усього світу зверталися до штучного інтелекту з проханнями допомогти у створенні отрут та біологічної зброї.
Джерела інформації та масштаб проблеми
Цю інформацію отримали журналісти від поточних і колишніх співробітників провідних лабораторій штучного інтелекту, серед яких і OpenAI, а також від експертів у сфері біологічної зброї та політичних радників. Більшість запитів стосувалися саме отрут, але деякі моніторинги показали прояви й у сфері більш складних біологічних загроз.
Варто зазначити, що виявлені випадки були реальними прикладами взаємодії з ChatGPT, а не навчальними тестами чи симуляціями системи безпеки. У подальшому ці діалоги показували експертам у галузі біології та захисту, які оцінили рівень точності і корисності отриманої інформації. За їхніми словами, окремі відповіді штучного інтелекту були страшенно точними.
Як це відбувалося на практиці
Інструкції надавали у спокійному, доступному для розуміння форматі, що відповідав рівню учня середньої школи. Користувачів, які порушували правила, банили, але влада офіційно поінформована не була. Водночас OpenAI стверджує, що справжньо небезпечні запити передаються правоохоронним органам для розслідування.
Інші приклади небезпечної допомоги AI
До цього момента більшість ситуацій, коли AI допомагав злочинцям, виглядали скоріше як загальні поради, а не як значне посилення їхніх можливостей. Наприклад, у розслідуванні New York Times було описано, як члени угруповання Boko Haram використовували чатбот для порад з модифікації мотоциклів для стрибків. Це допомогло їм здійснити успішні атаки після багатьох тренувань — хоча подібні знання можна було знайти у спеціалізованій літературі, без залучення AI.
Ризики поточного та майбутнього розвитку штучного інтелекту
Технології штучного інтелекту невпинно розвиваються і водночас стають різноманітнішими. Найпотужніші системи, як-от GPT-модель минулого літа, можуть надавати поштовх для створення більш доступних відкритих версій, які перестануть мати жорсткі обмеження на шкідливий контент. Існують навіть способи модифікувати такі моделі, усуваючи захисні бар’єри, що дозволить виводити на поверхню заборонену інформацію.
- Серйозне занепокоєння викликає можливість того, що найбільші AI-моделі майбутнього (наприклад, у 2026 році) можуть трансформуватися у версії без цензури вже за 2 роки.
- Причому доступ до таких моделей потенційно може отримати будь-хто, хто знає, де їх шукати.
- Водночас тривають і розробки методів, які допомагають захищати ці системи від обхідних маневрів, спрямованих на зняття обмежень.
Заходи і політика безпеки OpenAI
Представники OpenAI повідомили журналістам, що їхні моделі навмисно розроблені так, щоб відмовляти у наданні шкідливої інформації. Перш ніж виводити їх у світ, компанія ретельно перевіряє продукти на безпеку.
Як було перефразовано у WSJ, OpenAI здатна ідентифікувати спроби отримання небезпечної біологічної інформації через свої системи та перешкоджати їм.
