GitHub Trending ★ 102 3 min

katanemo/plano

Rust

🔗 https://github.com/katanemo/plano

📌 Plano:Agent 生產化統一資料平面

TL;DR:Plano 是 AI 原生代理資料平面,集中路由防護觀測,加速 Agent 上線。

🎣 建個 Agent 示範專案只要一下午,但要把它穩定、安全地送上生產環境,卻可能耗掉數週。問題往往不在模型本身,而在那些沒人想寫卻不得不寫的「隱形中介軟體」。

🤔 做 Agent demo 容易,生產化卻卡在隱形中介軟體

README 指出,建置 agentic 應用(代理應用)的展示版很容易,但要安全、可靠、可重複地交付到生產環境卻很困難。在快速駭客專案的新鮮感退去後,團隊往往得自行打造「hidden middleware(隱形中介軟體)」才能達到生產標準:包含抵達正確代理的路由邏輯、安全與審核的防護鉤子(guardrail hooks)、持續學習所需的評估與可觀測性膠水程式碼,以及散落在框架與應用程式碼中的模型或供應商奇異特性。

🧩 Plano 用統一程式外資料平面收斂路由、防護與觀測

Plano 將上述核心交付考量移動到一個統一、out-of-process(程式外)的 dataplane(資料平面)中,定位為 AI-native proxy server(AI 原生代理伺服器)與資料平面。它抽離重複的管線工作,讓你擺脫脆弱的框架抽象化,並集中化不該在每個程式碼庫客製化的部分。README 列舉的核心能力包括:

  • 🚦 Orchestration(編排):代理間的低延遲編排;新增代理無需修改應用程式碼。
  • 🔗 Model Agility(模型敏捷性):可依模型名稱、別名(語意名稱)或透過偏好設定自動路由。
  • 🕵 Agentic Signals™:零程式碼擷取 Signals,以及跨所有代理的 OTEL traces/metrics(OpenTelemetry 追蹤與指標)。
  • 🛡️ Moderation & Memory Hooks:摘要在此處截斷,但前文提及專案提供 guardrail filters for safety and moderation(安全與審核的防護過濾器),可推測此專案涵蓋審核與記憶鉤子,細節未完整揭露。

此外,Plano 強調可使用任何語言或 AI 框架,目標是讓團隊更快將代理交付到生產環境。

🎯 評估將路由與防護集中至獨立資料平面

對工程師而言,與其讓每個服務各自實作路由、審核與觀測,不如評估採用像 Plano 這類獨立資料平面來統一承載。這能降低框架耦合、減少重複打造中介軟體,並在新增代理或切換模型時保有靈活度。README 提到有 Quickstart Guide 與 Documentation 可供進一步整合參考,實際匯入前可詳閱其支援範圍。

🔗 來源

#AI #AgenticApps #DataPlane #Middleware #LLM #Orchestration #Observability #Guardrails #katanemo #Plano

tencent/hy3:free 自動生成