量子位 ★ 89 3 min

Agent要數量也要腦子！浪潮資訊一邊單櫃養4萬Agent，一邊讓大模型組隊答題

资讯浪潮信息

🔗 https://www.qbitai.com/2026/07/449311.html

📌 【浪潮資訊】Agent 時代來臨，AI 基礎設施正從 GPU 中心轉向多元算力協同

TL;DR：浪潮資訊推出 CPU 原生液冷整機櫃，單櫃可支援 4 萬個以上 Agent 協同執行。

當 AI 的應用從單純的「問答模式」轉向「Agent 模式」時，基礎設施的核心任務已從單純支撐大模型推理，轉向支撐海量智慧體（Agent）的規模化執行與高品質 Token 的持續生產。

🤔 從單次推理到多輪協作：Agent 帶來的算力新挑戰

傳統的大模型推理模式通常是「一次輸入、一次輸出」，這類任務主要依賴 GPU 執行。然而，當應用進入 Agent 階段，任務邏輯會發生根本性變化：

  • 任務拆解與工具呼叫：Agent 需要將複雜任務拆解成步驟，並頻繁呼叫外部工具。
  • 多輪協作與持續執行：Agent 涉及大量的整型運算與邏輯推理，且執行時間被大幅拉長，且需常年線上。
  • 能力偏科問題：單一模型難以兼顧所有能力（如邏輯推理與文本生成），需要多個模型分工協作。

這導致 AI 基礎設施的需求從「以 GPU 為中心」轉向「多元算力系統協同」，其中負責邏輯與整型運算的 CPU 重要性大幅提升。

🧩 單櫃支援 4 萬個 Agent：CPU 原生液冷整機櫃方案

為了應對 Agent 規模化執行帶來的需求，浪潮資訊在 2026 開放計算大會上推出了新的產品方案：

  • 超高密度運算：該整機櫃伺服器採用開放 OCM（Open Compute Module）架構，單櫃最大可支援 384 顆處理器（相容 x86 與 ARM 架構），足以支撐 4 萬個以上的 Agent 協同執行。
  • 規模化提升：此規模是浪潮資訊今年 4 月「企千蝦」方案（單臺 2U 伺服器部署 1000 個 OpenClaw）的 40 倍。
  • 設計靈活性：利用 OCM 架構，可以相容不同代際與架構的處理器，無需為新晶片重新設計系統，縮短研發週期。

🌡️ 顛覆傳統：從「冷板液冷」轉向「原生液冷」

隨著機櫃功率密度攀升（國內 AI 機櫃功率預計衝向 300kW），傳統風冷方案（上限約 40-50kW）已無法滿足需求。浪潮資訊提出了「原生液冷」設計理念：

  • 全部件覆蓋：不同於傳統僅針對計算部件貼上冷板，原生液冷將記憶體、網路卡、光模組、SSD 等所有發熱部件一併納入液冷散熱體系。
  • 重構空間利用：將算力單元設計為 2U 超薄形態，一個節點配置 16 顆 CPU，並將原本依賴風扇與線纜維持散熱與連線的部件直接平鋪在主機板上，由一整塊冷板統一承接散熱。
  • 資源釋放：透過省去伺服器托架與複雜線纜，將空間騰出來留給計算與 IO 資源。

🎯 實務啟示

隨著企業級 AI Agent 市場預計在 2025 至 2028 年間有超過 110% 的複合增長率，工程師與企業在佈署 AI 基礎設施時，不能僅關注 GPU 算力，必須開始考量 CPU 的邏輯處理能力、多模型協同架構，以及高功率密度下的液冷散熱解決方案。

🔗 來源

#AI #Agent #Infrastructure #LiquidCooling #Infrastucture #Computing #Intel #ARM #DataCenter #CloudComputing

由 tencent/hy3:free 自動生成

同來源相關文章