TypeSafe представил модель Jev для автоматизации ПО — TechCrunch
Стартап TypeSafe AI представил трансформерную модель Jev, которую разработчики рассматривают как инструмент для автоматизации программного обеспечения. Она не относится к большим языковым моделям и вместо текста выдаёт вероятности или, по определению компании, «калиброванные решения». О запуске сообщает TechCrunch.
Компанию два года назад основал бывший исследователь OpenAI Диогу Алмейда, который участвовал в создании ChatGPT и разработке метода обучения с подкреплением на основе обратной связи от людей — RLHF. Алмейда считает, что языковые модели хорошо работают с человеческим языком, но не всегда подходят для автоматизации, поскольку компьютерные системы используют другие форматы взаимодействия.
Скорость и стоимость
В TypeSafe утверждают, что пользователи заранее определяют возможные результаты работы Jev, поэтому модель не генерирует текст и не может галлюцинировать в привычном для языковых моделей смысле. Компания также заявляет о более низкой стоимости и более высокой скорости работы: выходные токены бесплатны, а входные измеряются миллиардами, а не миллионами. После запуска спрос на Jev был настолько высоким, что API компании на короткое время не могло обслуживать пользователей.
Инженер Vercel Пранит Шарма рассказал, что его компания заменила классификатор на базе ChatGPT Luna 5.6 моделью Jev для проверки безопасности команд. По его словам, после замены результаты получали в 5–18 раз быстрее и с более высокой точностью.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Проверка агентов и маршрутизация моделей
Технический директор Bryo AI Никхил Мудхолкар сравнил Jev с Gemini в задаче классификации деловых писем. В его тесте Gemini был немного точнее, но стоил в 10–20 раз дороже. Мудхолкар отдельно отметил оценки уверенности Jev, которые, по его мнению, подходят для автоматизации рабочих процессов.
Jev также может дополнять языковые модели, отслеживая действия ИИ-агентов и помогая предотвращать jailbreak-атаки. Технический директор Earendil Армин Ронахер отметил, что модель может быть полезна для маршрутизации запросов между разными моделями, определяя, требуется ли для конкретной задачи определённая модель.
TypeSafe называет Jev моделью «System One», ориентированной на интуицию, а не рассуждение, и на выполнение конкретной задачи. По словам Алмейды, модель обучают исключительно на синтетических данных с применением подхода, который компания называет обучением с подкреплением на основе калиброванных решений. TypeSafe планирует выпускать новые версии Jev для других модальностей.
