寶玉 baoyu.io ★ 81 3 min

“母病速歸”式 AI:號稱省 65% Token,實測只有 8.5%

🔗 https://baoyu.io/blog/2026-07-12/caveman-token-saving-test

📌 “母病速歸”式 AI:號稱省 65% Token,實測只有 8.5%

TL;DR:Caveman 壓縮提示詞的宣稱省 65% Token,實測在程式設計任務中僅減少約 8.5%。

🧩 “電報體 Skill”是什麼?
文章把能讓 AI 盡量少說話的技巧稱為「電報體 Skill」,類似小學語文課的電報文。最簡化的訊息只能用四個字「母病速歸」傳達完整需求,少一個字就會失去關鍵資訊。這種「惜字如金」的思路在 AI 提示詞中被重新利用。

🤔 Caveman 專案的出身與目標

  • 由荷蘭萊頓大學 19 歲學生 Julius Brussee 在 2024 年 4 月上線,短時間內衝上 GitHub Trending 首位,累積約 8.85 萬顆 Star。
  • 其核心做法是把 Claude Code、Codex 等程式設計助手的提示詞「刪冠詞、刪客套、刪連線詞」,只保留技術要素。例如把完整回覆 The issue is caused by a new object reference being created on every render... 變為 New object ref each render. Wrap in useMemo.
  • README 中宣稱可壓縮輸出 Token,最常見的數字是 65%

📊 JetBrains 的實測結果

  • 測試使用 Claude Code 於 SkillsBench 的 86 個真實程式設計任務,分別在安裝與未安裝 Caveman 的情況下跑完整流程。
  • 為求給 Caveman 最大發揮空間,測試強制每次回覆都套用壓縮,這已是最佳情境。
  • 總計 240 次計費試驗,花費約 106 美元。
  • 輸出 Token 從約 59.2 萬下降至 54.2 萬,減幅 8.5%,遠低於宣稱的 65%。
  • 82 組配對任務中,64 結果相同,8 個更好、10 個更差,差異在統計上不顯著,未見顯著的任務質量下降。

💡 為何省錢幅度會差這麼多?

  • 65% 的省錢主要來自聊天場景:去除「當然可以」「很高興幫你」等客套語,可大幅減少 Token。
  • 程式設計 Agent 的 Token 消耗重點在:系統提示詞、程式碼與檔案內容、工具呼叫結果、錯誤資訊、測試日誌等,這些資訊必須保留,壓縮空間本就有限。
  • Caveman 主要壓縮的是工具呼叫之間的自然語言說明,佔整體帳單的比例本來就很小,類似只省掉每天 2 塊錢的礦泉水費用。

⚠️ 使用上的代價

  • 越短的回覆對 AI 與使用者的默契要求越高。
  • 例如只回 Fixed auth. Tests pass. 省下 Token,但失去修復細節,開發者無法判斷問題範圍。
  • 在日常使用時,Skill 必須自行判斷是否觸發,實際節省往往更低。

🎯 實務啟示

  • 若主要需求是降低聊天型 AI 的成本,電報體式的提示詞壓縮仍有價值。
  • 對程式設計助理而言,Caveman 的 Token 節省幅度有限,且可能犧牲可讀性與除錯資訊。
  • 在預算緊張的情境下,可考慮在非關鍵回覆(如簡短的狀態更新)使用此類 Skill,其餘情況保留完整說明,以免影響開發效率。

🔗 來源

#AI #PromptEngineering #TokenSaving #Caveman #ClaudeCode #SoftwareDevelopment #LLM #JetBrains #TokenOptimization #CodingAssistant

google/gemma-4-31b-it:free 自動生成