OpenAI 首款自研推理芯片 Jalapeño 强于英伟达 Blackwell

OpenAI 在 Hot Chips 上演示了其首款自研推理芯片 Jalapeño。该芯片由 OpenAI 与 Broadcom 联合研发，设计工作始于 2024 年，从组建团队到完成芯片流片仅用了约 16 个月。Jalapeño 并非专门用于为 OpenAI 的模型执行推理工作，而是设计作为一种通用推理芯片。测试显示，几乎所有场景下 Jalapeño 的性能/功耗比（perf/W）都优于英伟达的 Blackwell。Jalapeño 的设计突出的是性能/功耗比，原因是今天的 AI 公司主要受限于供电，增加电力供应比建更多数据中心面临更多限制需要花费更多时间。英伟达在 Hot Chips 上介绍其新芯片 Vera 时也强调了电力供应的重要性，称这直接影响营收。 https://newsletter.semianalysis.com/p/openai-jalapeno-better-than-nvidia