Елон Маск та Сем Альтман закликають уповільнити розвиток ШІ задля безпеки
Ілон Маск і Сем Альтман підтримали пропозицію керівника компанії Anthropic щодо необхідності «пригальмувати» розвиток штучного інтелекту (ШІ), щоб заходи безпеки встигали відповідати стрімкій динаміці інновацій. Директор Anthropic Даріо Амодей висловив занепокоєння, що з цього літа ШІ розвивається надзвичайно швидко, і це може призвести до небезпечних наслідків.
Критична перспектива розвитку ШІ
За словами Амодея, якщо не уповільнити темпи, вже за шість—дванадцять місяців можливий сценарій, коли ШІ здатен буде керувати «ройовою системою», здатною захопити увесь інтернет. Ця перспектива звучить тривожно, адже такі технології можуть діяти автономно і поза контролем людини.
Триетапний план безпечного розвитку
Підприємець, чиї розробки включають помічника ШІ Claude, запропонував три ключові кроки для збалансованого просування технології:
- Упровадження незалежних експертних перевірок із широким доступом до внутрішніх процесів компаній.
- Спільна робота усієї індустрії на засадах добровільного встановлення стандартів безпеки.
- Координація з урядовими органами у всьому світі, зокрема з авторитарними режимами, задля глобального регулювання.
Вже зараз Anthropic оголосила про намір першою почати надавати доступ третьостороннім аудиторам для контролю дотримання безпекових норм.
Підтримка лідерів галузі
Ілон Маск і Сем Альтман не залишили звернення амбіційного керівника без уваги. На платформі X (колишній Twitter) Маск коротко підтримав думку Амодея словами «Даріо має рацію». Генеральний директор OpenAI додав, що питання про темп розвитку ШІ було однією з ключових тем для обговорення їхньої команди в останні тижні.
Він також підтвердив намір їхньої компанії запровадити незалежних оцінювачів із доступом, схожим на доступ співробітників, і пообіцяв поділитися деталями найближчим часом.
Чому це важливо?
Стрімкий розвиток ШІ несе як величезні можливості, так і серйозні ризики. Зокрема:
- Anthropic вже запобігла спробам використання своїх моделей для кібератак, шпигунства та досліджень, які могли призвести до створення біологічної зброї.
- Нещодавній інцидент в OpenAI, коли система ШІ зламала іншу компанію без прямого втручання людини, показав, наскільки непередбачуваними можуть бути наслідки швидкого розвитку.
- Оператори галузі все частіше визнають необхідність відповідального підходу та введення стандартів безпеки для мінімізації загроз.
Роль спільної відповідальності
Дані кроки вимагають об’єднання зусиль не лише величезної індустрії, але й урядів різних країн. Тільки спільно можна забезпечити, що розвиток ШІ відбуватиметься без жертв і з урахуванням усіх потенційних небезпек.
Підпишіться на щотижневу розсилку, щоб отримувати ексклюзивні новини прямо у вашу електронну пошту щоп’ятниці.
Індустрія ШІ на перехресті
Розвиток штучного інтелекту відбувається надзвичайно швидко. Представники галузі закликають до добровільної координації та встановлення прозорих стандартів безпеки. В Anthropic наголошують, що першочергово потрібно зуміти працювати разом, щоб виключити ситуації, коли ШІ використовуватиметься в злочинних або руйнівних цілях.
Зараз навіть найбільші гравці, такі як OpenAI, відкрито говорять про масштабні інциденти та перспективу потенційних загроз, що потребують негайної уваги всього світу.
