OpenAI заявила о превосходстве чипа Jalapeño над системами Nvidia в тесте
OpenAI заявила, что ее специализированный чип Jalapeño для искусственного интеллекта эффективнее выполняет задачи и быстрее возвращает ответы, чем системы конкурентов. По данным компании, в тесте на инференс Jalapeño превзошел системы на суперчипах Nvidia GB200 и GB300 по энергоэффективности и задержке.
Чип для инференса
Как сообщает The Verge, Jalapeño впервые представили в июне. Это специализированная интегральная схема, или ASIC, созданная OpenAI в партнерстве с Broadcom. Она предназначена для инференса — запуска уже обученной модели ИИ для выполнения задач или работы агента.
Вице-президент OpenAI по аппаратному обеспечению Ричард Хо во время брифинга заявил, что Jalapeño сочетает более низкую задержку с более высокой пропускной способностью. По его словам, системам искусственного интеллекта обычно приходится искать компромисс между этими характеристиками.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Результаты бенчмарка
Для оценки производительности OpenAI использовала платформу бенчмаркинга InferenceX. Результаты Jalapeño сравнивали с лучшими зафиксированными на тот момент показателями систем на Nvidia GB200 или GB300. Компания также оценивала время между токенами — показатель, отражающий скорость поступления ответа.
OpenAI утверждает, что Jalapeño выполнил в 1,5–1,9 раза больше работы ИИ на ватт энергии во время тестов с моделями GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T. Сквозная задержка для этих трех моделей, по данным компании, была в 1,7–3,6 раза ниже, чем у систем сравнения.
По словам Хо, это может означать более быстрые ответы, агентов, которые оперативнее реагируют, и более надежный доступ по мере роста спроса. OpenAI планирует развернуть Jalapeño в небольших объемах до конца года, а в 2027 году начать наращивать объемы развертывания.