TypeSafe发布用于软件自动化的Jev模型——TechCrunch
初创公司TypeSafe AI发布了Transformer模型Jev,开发者将其视为软件自动化工具。它不属于大型语言模型,不输出文本,而是输出概率,或者按照公司的定义,输出“校准决策”。TechCrunch报道了此次发布。
该公司由前OpenAI研究员迪奥戈·阿尔梅达于两年前创立,他曾参与ChatGPT的开发,以及基于人类反馈的强化学习方法RLHF的研发。阿尔梅达认为,语言模型擅长处理人类语言,但并不总是适合自动化,因为计算机系统使用不同的交互格式。
速度与成本
TypeSafe称,用户会预先定义Jev可能产生的结果,因此该模型不生成文本,也不会以语言模型通常的意义产生幻觉。该公司还宣称其成本更低、运行速度更快:输出令牌免费,输入量按数十亿而非数百万计量。发布后,对Jev的需求如此之高,以至于该公司的API一度无法为用户提供服务。
Vercel工程师普拉尼特·夏尔马表示,他所在的公司已用Jev替换基于ChatGPT Luna 5.6的分类器,用于检查命令的安全性。他说,更换后,结果获得速度提高了5至18倍,且准确性更高。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
代理监控与模型路由
Bryo AI首席技术官尼希尔·穆德霍尔卡尔在商务邮件分类任务中将Jev与Gemini进行了比较。在他的测试中,Gemini的准确性略高,但成本高出10至20倍。穆德霍尔卡尔还特别指出,Jev的置信度评分适合用于工作流程自动化。
Jev还可通过跟踪AI代理的行动并帮助防止越狱攻击,来补充语言模型。Earendil首席技术官阿明·罗纳赫表示,该模型可用于在不同模型之间路由请求,判断特定任务是否需要某个特定模型。
TypeSafe将Jev称为“System One”模型,侧重于直觉而非推理,并专注于执行特定任务。阿尔梅达表示,该模型仅使用合成数据进行训练,并采用该公司称为基于校准决策的强化学习的方法。TypeSafe计划为其他模态发布新版Jev。