OpenAI 与博通联手推出 Jalapeño 芯片，每瓦性能或大幅优于现有水平

【导语OpenAI 和博通宣布推出专为数据中心大语言模型推理设计的 Jalapeño 芯片这是长期项目的第一代产品后续会不断改进早期测试显示其每瓦性能或大幅优于当前水平。】OpenAI 与博通携手打造新芯片ChatGPT 和 Codex 背后的公司 OpenAI 与老牌芯片供应商博通合作推出了名为 Jalapeño 的新型芯片。该芯片专为数据中心的大语言模型推理而设计将部署在大型数据中心。基于交流见解与未来规划的设计博通表示这款专用集成电路ASIC是专门为大语言模型推理全新设计的。其设计基于博通与 OpenAI 研究人员交流所获得的“详细见解”还参考了 OpenAI 未来模型和产品的发展规划。从设计到生产该芯片耗时九个月。性能优势待验证与现有数据中心推理系统目前使用的芯片相比Jalapeño 能更好地满足当前大语言模型的需求。OpenAI 称“早期测试显示Jalapeño 的每瓦性能将大幅优于当前最先进的水平”不过性能测试尚未完成“详细的技术报告将在未来几个月发布”。编辑观点OpenAI 与博通合作推出的 Jalapeño 芯片前景可期若能实现性能优势将为大语言模型推理带来新突破但最终效果仍需等待详细技术报告。