TypeSafe представив модель Jev для автоматизації ПЗ — TechCrunch
Стартап TypeSafe AI представив трансформерну модель Jev, яку розробники розглядають як інструмент для автоматизації програмного забезпечення. Вона не належить до великих мовних моделей і замість тексту видає ймовірності або, за визначенням компанії, «калібровані рішення». Про запуск повідомляє TechCrunch.
Компанію два роки тому заснував колишній дослідник OpenAI Діогу Алмейда, який брав участь у створенні ChatGPT та розробці методу навчання з підкріпленням на основі людського зворотного зв’язку — RLHF. Алмейда вважає, що мовні моделі добре працюють із людською мовою, але не завжди придатні для автоматизації, оскільки комп’ютерні системи використовують інші формати взаємодії.
Швидкість і вартість
У TypeSafe стверджують, що користувачі заздалегідь визначають можливі результати роботи Jev, тому модель не генерує текст і не може галюцинувати у звичному для мовних моделей сенсі. Компанія також заявляє про нижчу вартість і вищу швидкість роботи: вихідні токени безкоштовні, а вхідні вимірюють мільярдами, а не мільйонами. Після запуску попит на Jev був настільки високим, що API компанії на короткий час не могло обслуговувати користувачів.
Інженер Vercel Праніт Шарма розповів, що його компанія замінила класифікатор на базі ChatGPT Luna 5.6 моделлю Jev для перевірки безпеки команд. За його словами, після заміни результати отримували у 5–18 разів швидше та з вищою точністю.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Перевірка агентів і маршрутизація моделей
Технічний директор Bryo AI Нікхіл Мудхолкар порівняв Jev із Gemini у завданні класифікації ділових листів. У його тесті Gemini був дещо точнішим, але коштував у 10–20 разів дорожче. Мудхолкар окремо відзначив оцінки впевненості Jev, які, на його думку, придатні для автоматизації робочих процесів.
Jev також може доповнювати мовні моделі, відстежуючи дії ШІ-агентів і допомагаючи запобігати jailbreak-атакам. Технічний директор Earendil Армін Ронахер зазначив, що модель може бути корисною для маршрутизації запитів між різними моделями, визначаючи, чи потребує конкретне завдання певної моделі.
TypeSafe називає Jev моделлю «System One», орієнтованою на інтуїцію, а не міркування, і на виконання конкретного завдання. За словами Алмейди, модель навчають виключно на синтетичних даних із застосуванням підходу, який компанія називає навчанням з підкріпленням на основі каліброваних рішень. TypeSafe планує випускати нові версії Jev для інших модальностей.
