8月25日,OpenAI公布其首款自研推理芯片Jalapeno的性能测试结果,称其在多个指标上超越英伟达GB300。
Jalapeno由OpenAI与博通联合开发,采用N3P工艺并搭载HBM4内存,容量达216 GiB,带宽15.4TB/s。测试使用OpenAI开源模型GPT-OSS 120B及DS、Kimi等第三方模型进行对比。结果显示,Jalapeno单颗芯片额定功耗仅700W,高负载下可低于550W;峰值吞吐量下每瓦处理任务量是GB200/GB300的1.5至1.9倍。
该芯片采用软硬一体协同设计,未采用Prefill/Decode分离架构。测试Kimi K2.5时,峰值每瓦性能提升约1.5倍,端到端延迟降低3.4倍。OpenAI从设计到完成流片仅用时9个月,并利用内部AI模型优化电路设计和编写底层内核。
