OpenAI称Jalapeño芯片在测试中优于Nvidia系统
OpenAI表示,其用于人工智能的专用Jalapeño芯片比竞争对手的系统更高效地完成任务,并能更快返回响应。该公司称,在一项推理测试中,Jalapeño在能效和延迟方面优于采用Nvidia GB200和GB300超级芯片的系统。
用于推理的芯片
据The Verge报道,Jalapeño于6月首次发布。这是一种专用集成电路,即ASIC,由OpenAI与Broadcom合作开发。它专为推理而设计——即运行已经训练完成的AI模型,以执行任务或运行智能体。
OpenAI硬件副总裁理查德·霍在一次简报会上表示,Jalapeño将更低的延迟与更高的吞吐量结合起来。他说,人工智能系统通常必须在这些特性之间进行权衡。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
基准测试结果
为评估性能,OpenAI使用了InferenceX基准测试平台。Jalapeño的结果与当时采用Nvidia GB200或GB300系统所记录的最佳结果进行了比较。该公司还评估了token之间的时间,这一指标反映了响应到达的速度。
OpenAI称,在使用GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T模型进行的测试中,Jalapeño每瓦能耗完成的AI工作量多出1.5–1.9倍。该公司称,这三个模型的端到端延迟比对比系统低1.7–3.6倍。
霍表示,这可能意味着更快的响应、反应更迅速的智能体,以及随着需求增长而更加可靠的访问。OpenAI计划在今年年底前小规模部署Jalapeño,并在2027年开始扩大部署规模。