Світ має підстави боятися штучного інтелекту — Сам Альтман про майбутнє AI
Генеральний директор OpenAI, компанії, яка створила ChatGPT, Сам Альтман визнав, що світ має всі підстави хвилюватися через розвиток штучного інтелекту (ШІ). Він наголосив, що ця тривога — цілком виправдана, адже небезпеки дійсно існують. Разом із цим Альтман закликав довіряти OpenAI у їхніх намірах розробляти ШІ відповідально та обережно, розуміючи масштаби викликів.
Поточна атмосфера навколо ШІ: попередження та сумніви
Нещодавні заяви колишнього розробника Anthropic внесли хвилю страху в індустрію штучного інтелекту. Він попередив, що експерти, які створюють ШІ, переконані у можливих катастрофічних наслідках, які можуть настати до кінця цього десятиліття. Цей сигнал спонукав до публічних дискусій про необхідність нормування та контролю швидкості впровадження новітніх технологій.
Відповідно, багато керівників компаній, що розробляють ШІ, починають визнавати, що варто зосередити зусилля на безпеці та захисті систем замість безперервного прискорення процесу створення нових моделей.
Дві головні загрози, які висвітлює Сам Альтман
На конференції у Сан-Франциско Альтман виділив ключові виклики, пов’язані з безпекою ШІ:
- Ризик втрати контролю над системою або виникнення серйозних аварійних ситуацій, що можуть призвести до непередбачуваних наслідків.
- Зосередження влади в руках обмеженого кола людей, які можуть впливати на погляди та рішення в глобальному масштабі через використання ШІ.
Він підкреслив, що ці небезпеки вимагають пильної уваги всіх учасників індустрії та суспільства загалом.
Заклик до відповідальності і довіри
Сам Альтман попросив світ довіряти компанії OpenAI і вірити, що вони прагнуть робити все правильно, усвідомлюючи масштаби своєї роботи. Він підтримав ідею співпраці в індустрії для узгодження безпечних стандартів та отримання достатнього часу, щоб ретельно розробляти технології.
Водночас він відзначив, що надмірний страх часто виникає через комерційний тиск та гонитву за швидкими результатами. Це може спонукати окремі компанії чи країни нехтувати етичністю та безпекою заради конкурентної переваги.
Відповідь на критику: перші публічні заяви після гучного посту
Ця промова стала першою публічною реакцією Альтмана після викликаної твіттер-постом тривоги, яку викликав колишній дослідник Anthropic та OpenAI Джейкоб Коксон. У своїх дописах у соцмережах генеральний директор підкреслював:
- Світ заслуговує на впевненість у тому, що американські компанії, які розробляють потужні ШІ-системи, відповідально ставляться до своєї роботи.
- Кожна передова лабораторія має взяти на себе відповідальність за безпеку і жоден співробітник не повинен брати участь у роботі, якщо не впевнений у відповідальності своїх дій.
Окрім того, Альтман позитивно сприйняв можливість встановлення федеральних норм безпеки для передових ШІ технологій, однак підкреслив, що розвиток довіри має починатися ще до законодавчого регулювання. Розробники мають самостійно підвищувати рівень захисту та прозорості своїх систем.
