HuggingFace Blog HuggingFace ★ 94 3 min

NVIDIA Nemotron 3 Embed Ranks #1 Overall on RTEB, Advancing Agentic Retrieval

🔗 https://huggingface.co/blog/nvidia/nemotron-3-embed-wins-rteb

📌 【NVIDIA】Nemotron 3 Embed 登頂 RTEB,主攻 Agentic 檢索

TL;DR:NVIDIA 釋出開源 embedding 模型系列,8B 版本拿下 RTEB 總榜第一,鎖定生產級 RAG 與 agent 檢索。

在多步驟的 agentic workflow 中,檢索(retrieval)往往是隱形瓶頸:檢索品質差會讓 agent 抓到不相關上下文、反覆重新查詢、浪費 token 預算,還把雜訊帶進後續推理步驟。NVIDIA 最新釋出的 embedding 模型系列,正是衝著這個痛點而來。

🤔 檢索品質直接決定 Agent 的成敗

HuggingFace 部落格指出,在 multi-step agentic workflows 裡,poor retrieval 會導致 agent 取得無關 context、重複 query、消耗 token 並汙染後續推理。因此提升 embedding 模型的檢索品質,是讓 agent 更可靠的前提。

🧩 三款開放模型,覆蓋準確度與效能曲線

NVIDIA Nemotron 3 Embed 是一組開放且可商用的 embedding 模型,目標是改善檢索品質,並提供開發者用於生產規模 RAG、agentic retrieval、code retrieval 與 agent memory 的實際部署選項。系列包含三個開放模型,在 accuracy-efficiency curve 上達到 state-of-the-art 檢索表現:

  • Nemotron-3-Embed-8B-BF16:旗艦模型,在 RTEB leaderboard 排名 #1,適合 precision-critical retrieval 與高風險企業 RAG。
  • Nemotron-3-Embed-1B-BF16:高效標準版,針對延遲與成本敏感的生產檢索。
  • Nemotron-3-Embed-1B-NVFP4:Blackwell 最佳化變體,主打高吞吐量與較小記憶體佔用的大規模基礎設施。

📊 8B 模型拿下 RTEB 總榜第一

根據發布資訊,由 8B 模型領頭的這組模型在 RTEB 評測中取得整體第一(#1 Overall on RTEB),並以 1B 變體兼顧生產規模部署的效率需求。

🎯 實務啟示

對工程師來說,若正在搭建生產級 RAG 或具備多步驟檢索的 agent,可直接評估這組開放模型的部署彈性:高風險場景用 8B-BF16 換取檢索精度,延遲與成本敏感服務用 1B 變體,Blackwell 環境則可考慮 NVFP4 版本降低記憶體佔用並拉高吞吐。

🔗 來源

#NVIDIA #Nemotron #Embedding #RTEB #RAG #AgenticRetrieval #VectorSearch #OpenModel #Blackwell #LLM

tencent/hy3:free 自動生成