OpenAI 和 Broadcom 推出用於大規模 LLM 推理的 Jalapeño 晶片

OpenAI 和 Broadcom 宣布推出 Jalapeño，一款專為資料中心大型語言模型推理設計的新晶片。該 ASIC 是根據 OpenAI 研究人員的見解，並參考公司產品路線圖，從頭開始在九個月內開發完成。

Broadcom 表示，Jalapeño 比現有的推理硬體更專注於當前 LLM 的需求。OpenAI 聲稱，早期測試顯示該晶片在每瓦性能上比當前解決方案有顯著提升，不過詳細技術結果將在未來幾個月內公布。