OpenAI公布首款自研人工智能推理晶片Jalapeño 的初步測試,稱其在部分模型工作負載中,每瓦處理量和端到端延遲優於英偉達GB200及GB300。晶片由OpenAI與博通合作設計,現階段數據由公司及測試平台提供,尚不能視作涵蓋所有應用的獨立結論。
據披露,Jalapeño針對已訓練模型的推理運算,不以取代所有訓練GPU為目標。在GPT-OSS 120B、DeepSeek R1及Kimi K2.5等測試中,OpenAI稱每瓦工作量高出約1.5至1.9倍,端到端延遲低約1.7 至3.6倍。比較採用晶片額定功耗,Jalapeño為700 瓦,GB200及GB300則較高。
OpenAI硬件主管Richard Ho表示,設計重點是同時提高吞吐量並縮短回應時間,減少大型模型服務的電力和延遲成本。公司計劃2026年底小規模部署,2027年擴大產量,短期仍會大量採用英偉達等供應商產品。

OpenAI自研Jalapeño晶片主攻人工智能推理工作。(網絡圖片)