OpenAI reveals its first AI processor: Jalapeño

📌 OpenAI 首款自研 AI 晶片 Jalapeño 亮相：專攻推論以降低對 Nvidia 依賴

TL;DR：OpenAI 與 Broadcom 合作推出 ASIC 晶片 Jalapeño，旨在最佳化 ChatGPT 推論效能並降低對 GPU 的依賴。

在 AI 算力競爭白熱化的今天，即便擁有最強的模型，若仍受限於硬體供應鏈，擴充套件速度將被卡脖子。OpenAI 決定不再僅僅依賴外部供應商，正式揭曉其首款自研晶片。

🤔 打破 Nvidia 壟斷，專為推論設計的 ASIC

OpenAI 揭曉了名為「Jalapeño」的新型 AI 處理器。這款晶片屬於 ASIC（特殊應用積體電路），其設計目的非常明確：專注於 AI 推論（Inference）。

與消耗海量資料進行訓練（Training）不同，Jalapeño 專為處理使用者請求而生，例如執行 Codex 代理程式或產生 ChatGPT 的回應。這意味著 OpenAI 試圖將「訓練」與「推論」的硬體需求分開，透過專用晶片來提升伺服器的執行效率。

🧩 與 Broadcom 合作，對標業界頂尖效能

這款晶片是 OpenAI 與 Broadcom 合作的成果，在宣佈合作僅九個月後便揭曉。根據 Broadcom 執行長 Hock Tan 的說法，Jalapeño 的效能可與 Nvidia 的 Blackwell 晶片以及 Google 的 TPU（Tensor processing units）相媲美。

此外，OpenAI 指出 Jalapeño 僅是其「多代運算平臺」的第一步，預計將在 2026 年底前正式部署。雖然最終效能仍在測量中，但初步測試顯示，其每瓦效能（performance per watt）將大幅優於目前的解決方案。

💡 算力自主化：AI 巨頭的共同趨勢

OpenAI 的舉動反映了目前產業的共識：為了降低對供應有限的 Nvidia GPU 依賴，自研晶片已成為生存關鍵。目前 Microsoft、Meta 與 Amazon 等公司也都推出了自研 AI 晶片來支援其伺服器，儘管在整體效能上仍追趕 Nvidia，但自研路徑能提供更高的能源效率與成本控制。

🎯 實務啟示

對於 AI 工程師而言，這意味著未來 LLM 的推論成本與延遲（Latency）可能會因為硬體層級的最佳化而進一步下降。當推論被移至專用 ASIC 而非通用 GPU 時，模型部署的能效比將顯著提升，這將讓更複雜的 AI Agent 能夠在更低成本下大規模執行。

🔗 來源

• 標題：OpenAI reveals its first AI processor: Jalapeño
• 作者／機構：Emma Roth / The Verge AI
• 連結：https://www.theverge.com/ai-artificial-intelligence/955939/openai-reveals-its-first-ai-processor-jalapeno

#OpenAI #Broadcom #AIChip #ASIC #Jalapeño #Inference #ChatGPT #Nvidia #Hardware #AIInfrastructure