Інновація в штучному інтелекті: модель, що не розмовляє, але завойовує світ
Діого Алмейда – один із творців технології, завдяки якій з’явився ChatGPT. Проте протягом двох останніх років він розробляв зовсім інший тип моделі, що кардинально відрізняється від всього, що робить ChatGPT. Ця модель не пише, не веде діалогів і не пояснює свої вибори. І, попри це, вона викликає справжній фурор серед розробників.
15 вересня компанія TypeSafe AI презентувала Jev – модель, яка навіть не генерує текст. Вам потрібно лише надати ситуацію та перелік можливих варіантів. Jev обирає один із них і повідомляє про ступінь впевненості у своєму виборі. Ніяких зайвих описів, ніяких складних пояснень. Відповідь приходить за 70-500 мілісекунд і включає лише текст рішення з вказаною ймовірністю.
Вартість роботи моделі при цьому вражає: вхідні “токени” коштують $0,042 за мільйон, тоді як конкуренти, наприклад Anthropic Fable 5.1, беруть близько $10 за мільйон. Це приблизно у 240 разів дорожче!
Попит на Jev у день запуску був настільки великий, що API не витримав навантаження. У той же час компанія оголосила про залучення інвестицій у розмірі 40 мільйонів доларів.
Навіщо потрібен штучний інтелект, який не спілкується?
Алмейда пояснює це просто: “Ми винайшли блискавку в пляшці, але вона не завжди корисна. Проблема в тому, що ми оптимізуємо системи під людську мову, а комп’ютери говорять зовсім іншою.”
Сьогодні більшість AI-автоматизацій працює через чат-ботів, які генерують текст, який потім потрібно розшифрувати. Це повільно, дорого і часто ненадійно – модель може вигадувати факти, порушувати формат відповіді або просто видавати занадто багато інформації, коли потрібна лише проста відповідь “так” чи “ні.”
Jev обходить всі ці проблеми. Ви спочатку вказуєте допустимі варіанти, з яких він обирає один. У результаті помилки типу “невірний формат” виключені, а класичних “галюцинацій” немає, бо модель не може вигадати відповіді, які ви не запропонували.
Хоча помилки можливі, але лише у виборі неправильного варіанту – нові, несподівані відповіді просто неможливі.
TypeSafe називає Jev “моделлю Системи 1,” за аналогією з книжкою Даніеля Канемана “Думай повільно… вирішуй швидко”. Система 1 – це швидкий, інтуїтивний, автоматичний спосіб мислення, тоді як більшість інших моделей – це Система 2, що тяжіє до повільних, зважених відповідей. Jev – це миттєвий вибір, а не довгі роздуми.
Популярність серед справжніх бізнесів
Практичне застосування Jev вже довели різні компанії:
- Pranit Sharma з Vercel замінив модель Luna 5.6 від OpenAI на Jev для класифікації безпеки команд – результати стали від 5 до 18 разів швидшими та точнішими.
- Нікхіл Мудхолкар з Bryo AI порівнював Jev із Gemini для класифікації бізнес-листів. Gemini була трохи точнішою, але в 10-20 разів дорожчою.
Важливою перевагою Jev стали реалізовані оцінки впевненості. Якщо модель каже, що вона 90% впевнена, це означає, що вона помиляється лише 10% випадків. Це відкриває можливість автоматизувати лише ті рішення, у яких модель переконана, а менш певні направляти на перевірку до людини. Таким чином, черга на рев’ю суттєво скорочується.
“Якщо модель виконує завдання на 95%, але не повідомляє про ті 5% помилок, вона не може повноцінно автоматизувати процес,” – пояснює Алмейда.
Jev як вартовий для інших моделей
Ще один несподіваний кейс – використання Jev для моніторингу роботи інших AI-моделей. Зазвичай це робиться великими і дорогими мовними моделями, що істотно підвищує витрати.
Jev же може зіграти роль швидкого та дешевшого “наглядача”, перевіряючи, чи не порушує інша модель політики, чи не намагається обійти обмеження, або чи не виходить за межі очікуваних параметрів.
Армін Ронахер, CTO Earendil, пропонує ще одну цікаву ідею – направлення задач до потрібної AI-моделі. Використання великої моделі для цього складного завдання недоцільне, а Jev ідеально підходить завдяки своїй швидкості і низькій вартості.
Обмеження Jev: що він не вміє?
Jev не пише код, не може створювати драфти листів або пояснювати, чому прийняв те чи інше рішення. Він не підходить для задач без чітко визначеного набору відповідей, де можливі відкриті варіанти.
Це зовсім інший інструмент, не конкуренція ChatGPT чи Claude, а радше заміна тисячам рутинних, однотипних виборів, які наразі потребують аналізу тексту від великих мовних моделей, а здебільшого – зайвих зусиль.
Журналісти The Register зауважують, що хоча Jev не вигадує нових відповідей поза заданими варіантами, він все одно може помилятися у виборі неправильного варіанту, а його точність поки підтверджена лише тестами TypeSafe.
На власних бенчмарках компанія показала, що Jev зрівнявся з Sonnet 5 на 67,8% точності, використовуючи середні відповіді GPT-6 Astra та Claude Fable 5.1 як еталон. Однак незалежні оцінки поки що обмежені.
Ставка на парадокс Джевонса
Mодель названа на честь Вільяма Стенлі Джевонса – економіста XIX століття, який помітив: зниження вартості ресурсу не зменшує його споживання, а навпаки – призводить до ще більших обсягів використання. Дешеве вугілля не зменшувало споживання, а радше зробило його більш масштабним і поширеним.
Алмейда вірить, що з інтелектом буде так само. Якщо вартість прийняття розумних рішень знизиться майже до нуля, розробники інтегруватимуть такі рішення повсюдно. Не в формі чат-ботів чи агентів, а просто як тихі функції у звичайних додатках, які швидко приймають прості, але важливі рішення.
“Ми очікуємо, що розумне програмне забезпечення з’явиться всюди, вийде з-під централізованої форми і стане більш розподіленим, подібно до раннього інтернету, а не великими платформами, які всі зараз намагаються створити,” – говорить Алмейда.
Ронахер упевнений, що тепер, коли Jev довів свою життєздатність, конкуренти незабаром створять аналогічні продукти. На його думку, досі через дешевизну великих мовних моделей бракувало стимулу для появи таких інновацій.
“Основний продукт багатьох провідних лабораторій – це страх або хайп, а я хотів би, щоб нашим головним продуктом був розум,” – резюмував Алмейда.
