OpenAI unveils its first custom chip, built by Broadcom

📌 OpenAI 首款自研推理晶片 Jalapeño 亮相，目標降低對 Nvidia 依賴

TL;DR：OpenAI 與 Broadcom 合作推出專為推理設計的晶片 Jalapeño，旨在提升能效並降低營運成本。

在 AI 競賽中，算力成本是最大的痛點。當大多數公司仍依賴通用 GPU 時，OpenAI 選擇走上自研硬體之路，試圖透過「垂直整合」來打破對單一供應商的依賴。

🤔 針對推理需求打造的 AI 加速器

OpenAI 正式揭曉其首款自研推理處理器 Jalapeño。這款晶片由 OpenAI 與 Broadcom 共同設計與製造，其核心目的在於解決 AI 推理（Inference）階段的特定需求，而非通用計算。

根據 OpenAI 總裁 Greg Brockman 的說法，研發邏輯在於利用公司對工作負載（workload）的深刻理解，針對目前被低估或服務不足的特定工作負載，打造能加速實現可能性的硬體方案。

🧩 用 AI 設計 AI 晶片，聚焦能效與成本

這款晶片的開發過程具有高度的迴圈特性，OpenAI 表示其自家的 AI 模型也參與了該晶片的開發工作。雖然 Jalapeño 目前仍處於測試階段，但初步結果顯示，其「每瓦效能（performance-per-watt）」明顯優於目前的頂尖替代方案。

在實務應用上，OpenAI 特別強調該晶片在執行「即時編碼模型（real-time coding models）」時，能顯著降低營運成本。

💡 從硬體層級最佳化 AI 經濟學

這次自研晶片的策略佈局，反映了 AI 產業的幾個關鍵趨勢：

• 降低依賴：減少對 Nvidia GPU 的依賴，與 Google 和 Amazon 建立自研 AI 加速器的路徑一致。
• 分工明確：預計高強度的「預訓練（pre-training）」任務仍將依賴 Nvidia 硬體，而 Jalapeño 則專攻推理端。
• 全棧最佳化：從資料中心、模型（如 Codex）到專用晶片，OpenAI 試圖在整個技術棧（stack）進行最佳化，以改善公司的財務底線（bottom line）。

🎯 實務啟示

對於 AI 工程師而言，這意味著未來模型部署的瓶頸可能不再僅在於軟體最佳化，硬體層級的專用指令集或架構設計將對推理延遲與成本產生決定性影響。當推理成本下降，更複雜的 Agentic 產品（如 Codex）將能以更低成本大規模部署。

🔗 來源

• 標題：OpenAI unveils its first custom chip, built by Broadcom
• 作者／機構：Russell Brandom @ TechCrunch AI
• 連結：https://techcrunch.com/2026/06/24/openai-unveils-its-first-custom-chip-built-by-broadcom/

#OpenAI #Broadcom #Jalapeño #AIChip #Inference #Hardware #Nvidia #AIInfrastructure #EnergyEfficiency #AICost