MarkTechPost ★ 110 3 min

Stanford Researchers Introduce TRACE: A Capability-Targeted Agentic Training System That Turns Recurrent Agent Failures Into Synthetic RL Environment

Agentic AIAI InfrastructureAI Paper SummaryLanguage ModelLarge Language ModelMachine Learning

🔗 https://www.marktechpost.com/2026/07/13/stanford-researchers-introduce-trace/

📌 【Stanford】TRACE:失敗驅動的 Agent 能力訓練

TL;DR:TRACE 開源系統自動診斷 Agent 能力缺口,生成合成環境做 RL 微調,省算力。

🎣 開場鉤子 Agentic LLM 總是在同樣地方跌倒。Stanford 團隊發現,這不是隨機失常,而是少數可複用能力缺失,主流訓練法卻把算力浪費在錯誤地方。

🤔 Agent 缺的是特定技能,主流 RL/SFT 與合成資料皆治標不治本 Agent 失敗常因缺乏如檢索正確記錄、驗證前置條件等具體技能。直接 RL 或 SFT 給予稀疏獎勵,無法指出缺哪個技能;廣泛合成資料未針對性,預算流向模型已具備的技能。

🧩 四步驟自動化管線,每步由 LLM 代理執行 markdown 提示 TRACE 執行自動化四步驟 pipeline,每步由遵循 markdown 提示的 LLM agent 驅動:

  1. 基礎 agent 在目標環境生成 rollouts(執行軌跡)。
  2. 分析 agent 將軌跡分為成功與失敗組,標註每個軌跡-能力對為 NA、PRESENT 或 LACKING。
  3. 僅保留具對比性且高覆蓋的能力:對比差距須超過 δ=0.20,覆蓋率須超過 ρ=0.10,確保該能力缺失集中在失敗中。
  4. 生成 agent 為每個保留能力建構一個合成環境,隔離單一能力同時保留目標工具 schemas 與格式;任務例項從隨機種子程式化生成。因生成與驗證皆演算法化,獎勵無需人工標籤或 LLM 評判。

🧩 每個能力訓練獨立 LoRA 介面卡 報導指出,每個能力會獲得一個 LoRA (Low-Rank Adaptation) 介面卡,在其合成環境上訓練;訓練演算法為 GRPO (Group Relative Policy,素材原文截斷未寫全)。

🎯 可針對 Agent 弱點精準補強,而非盲目重訓 對開發 agentic 系統的團隊,TRACE 提供開源(MIT 授權)流程,能從線上失敗日誌自動提煉訓練環境,用低成本合成獎勵微調特定 LoRA,避免全模型重訓。適合需要持續修正 agent 行為的場景。

🔗 來源

#TRACE #Stanford #AgenticLLM #RL #LoRA #GRPO #SyntheticEnvironment #MITLicense #CapabilityTargeted #AIagents

tencent/hy3:free 自動生成