Nvidia推出面向AI智能体和PC的Nemotron 3.5模型——TechCrunch
Nvidia推出了新的开放权重Nemotron 3.5模型,面向持续运行的AI智能体和边缘计算。该系列包括拥有1200亿参数的企业级Nemotron 3.5 Super VL,以及两款更紧凑的Bolt模型,可在PC和工作站上本地运行,TechCrunch报道。
面向企业智能体的模型
Nemotron 3.5 Super VL面向企业AI智能体的应用。Nvidia表示,该模型的参数量少于Nemotron 3 Ultra,但在遵循指令和使用工具方面能够提供相近的准确性。
Nvidia还表示,经过针对特定智能体任务的额外训练后,Super VL完成这些任务的速度快于多款竞争模型。该公司列举的此类任务包括文档分析、财务会计、科学实验、医疗领域保险索赔处理以及抵御网络攻击。Nvidia称,Skydance、EY、Ramp、CrowdStrike、Perplexity和Salesforce正在使用Super VL。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
在PC上本地运行
两款Bolt模型旨在搭载Nvidia RTX Spark芯片的新型AI PC以及DGX Spark工作站上运行。这类面向消费者、程序员和企业知识工作者的计算机正通过包括Microsoft和Dell在内的合作伙伴进入市场。
Nemotron 3.5 Bolt 74B-A9B 24GB拥有740亿参数,面向需要多步骤推理、工具调用和网页浏览的本地智能体任务。最小的Bolt E4B模型面向对话式智能体。Super VL和Bolt 74B-A9B现已可用,而Nvidia计划在本月晚些时候发布Bolt E4B。
Nvidia开放模型和软件副总裁卡里·布里斯基表示,组织可以使用自己的数据进一步训练Super VL,将其部署在自己的基础设施上,并控制所创建的解决方案。Nvidia还将本地模型定位为一种无需将工作负载转移至云端即可委派日常任务的方式。