Як новий ШІ-модель Jev змінює правила гри в автоматизації
Розчарування творця ChatGPT
Діого Алмейда, один із дослідників OpenAI, які допомогли створити чат-бота та впровадити метод навчання моделей на основі підкріплення з людським зворотнім зв’язком (RLHF), був розчарований сучасними можливостями штучного інтелекту. Незважаючи на грандіозні досягнення, він вважав, що технологія не відповідає очікуванням.
Алмейда пояснив TechCrunch: «Ми тримаємо в руках справжню блискавку, але вона не корисна. Ці чотири роки ми чудово опанували людську мову, але для автоматизації це не те, що потрібно. Адже комп’ютери розмовляють зовсім іншою мовою».
Від OpenAI до нових обріїв: створення TypeSafe AI
Два роки тому Алмейда покинув OpenAI, щоб заснувати стартап TypeSafe AI, який намагається вирішити цю проблему. Нещодавно компанія представила трансформер Jev — модель нового покоління, що не є великою мовною моделлю (LLM).
Замість генерації тексту, Jev створює ймовірності, які в TypeSafe називають «каліброваними рішеннями». Такий підхід робить модель значно дешевшою, швидшою, а головне — безпечнішою від «галюцинацій» (фальшивих результатів). Користувачі заздалегідь визначають вихідні дані, тому Jev не створює зайвий текст, а лише обробляє вхідні дані з максимальною точністю.
Джерело: TypeSafe AI
Для кого призначений Jev: розробники і бізнес
Розробники вже демонструють значний інтерес до нового продукту. Попит на API настільки великий, що компанія тимчасово призупиняла обслуговування користувачів. Jev показує особливу користь у сфері автоматизації програмного забезпечення.
Наприклад, Пранит Шарма з Vercel розповів, що їхня компанія замінила OpenAI Luna 5.6 на Jev для класифікації команд безпеки. Результати виявилися в 5–18 разів швидшими та більш точними.
Також технічний директор Bryo AI Ніхіл Мудхолкар порівняв Jev із моделлю Gemini у завданні класифікації ділових листів. Gemini була трохи точнішою, але коштувала в 10–20 разів дорожче. Уразили його «оцінки впевненості» Jev, які надають реальні ймовірності — ідеальні для автоматизації робочих процесів.
Переваги Jev для бізнесу:
- Швидкість роботи без втрати якості.
- Зменшені витрати на обчислення.
- Надійна оцінка результатів завдяки каліброваним ймовірностям.
Інтелектуальна взаємодія та доповнення до LLM
Jev можна не лише використовувати замість великих мовних моделей у певних сценаріях, але й як доповнення для контролю їх роботи. Наприклад, щоб відстежувати помилки або «джейлбреки» — порушення обмежень моделей.
Це особливо актуально у випадках, коли застосовуються «агенти», що керують іншими агентами, адже такі процеси можуть стати дуже дорогими. Jev забезпечує розумний контроль із меншими витратами.
Можливості керування ризиками:
- Оцінка ймовірності правильності відповіді (від 0 до 100%).
- Фільтрація сумнівних результатів.
- Автоматичне блокування або коригування помилкових дій.
Модель майбутнього: швидкість, дешевизна і масштабованість
Армін Ронахер, технічний директор Earendil, вказує, що Jev може стати ключем до моделювання «маршрутизації моделей» — автоматичного вибору оптимального алгоритму для конкретного завдання. Використання LLM для цього було б надто дорогим, тож швидка і доступна альтернатива відкриває нові горизонти.
Сам Алмейда назвав модель на честь XIX століття економіста Вільяма Стенлі Джевонса. Його парадокс підказує, що здешевлення важливого ресурсу стимулює його широке застосування. Так і з інтелектом: подешевління технології зробить її повсюдною та розподіленою, подібно до раннього Інтернету, а не централізованими мегазастосунками.
Унікальний шлях тренування та відкритий код
Алмейда притримується конспіративної позиції щодо архітектури Jev, але зазначив, що модель побудована як «Система 1» — інтуїтивна, швидка, орієнтована виключно на потрібне завдання. Вона тренується виключно на синтетичних даних за методом «підкріплення від каліброваних рішень».
Алмейда поділився, що найбільше задоволення в роботі дає їм контроль над власними даними та розробка синтетичних наборів — це найуспішніша їхня ставка, навіть краща за випуск самого продукту.
Попри те, що зараз Jev унікальний, фахівці прогнозують появу конкурентів, адже попит і практичність рішення очевидні.
Майбутні перспективи розвитку TypeSafe AI
Компанія планує створити й інші версії моделі для різних задач. На запитання, чи вважають себе лабораторією на передовій, Алмейда відповів, що вони орієнтуються не на створення гіперзастосунків чи міфічних проєктів, а прагнуть приносити реальний інтелект у повсякденне життя через практичний продукт.
