编程 Caveman 深度解析:82K Stars 的 Token 压缩黑科技如何让 AI 编程助手用 35% 的 Token 说完同样的事——从 6 级压缩体系到 30+ Agent 生态的完整实战指南

2026-07-07 05:11:36 +0800 CST views 12

Caveman 深度解析:82K Stars 的 Token 压缩黑科技如何让 AI 编程助手用 35% 的 Token 说完同样的事——从 6 级压缩体系到 30+ Agent 生态的完整实战指南

🪨 why use many token when few token do trick

一、背景:AI 编程的 Token 焦虑症

2026 年,AI 编程助手已经从「玩具」进化为「生产力工具」。Claude Code、Cursor、Copilot、Codex、Gemini CLI……开发者的选择越来越多,但一个隐性成本也在悄悄膨胀——Token 消耗

你有没有算过一笔账?

一个普通的 AI 编程会话,Claude Code 平均每轮输出 1200+ Token。一天写 50 轮代码,就是 6 万 Token。按 Claude Sonnet 4 的定价($15/M output tokens),一天光输出就要花 $0.9,一个月 $27。如果用 Opus 4,直接翻 5 倍到 $135/月。

更关键的是,这些 Token 里有多少是废话

「Sure! I'd be happy to help you with that. The issue you're experiencing is most likely caused by your authentication middleware not properly validating the token expiry. Let me take a look and suggest a fix.」

这句话 704 Token,但核心信息只有一句:「auth middleware 的 token 过期检查有问题,用 <= 替换 <。」

这就是 Caveman 要解决的问题。

2026 年 6 月底,一个叫 JuliusBrussee/caveman 的开源项目在 GitHub Trending 上爆发式增长,日增 2000+ Star,总星数迅速突破 82K。它不是一个新的 AI 模型,不是一个新的编程框架,而是一个极其简单却极其有效的想法:让 AI 像原始人一样说话——同样的技术内容,只用 1/3 的 Token。

二、Caveman 是什么?一句话说清楚

Caveman 是一个AI 编程助手的输出风格压缩 Skill/Plugin。它通过修改 Agent 的系统提示词,强制 AI 在回复时:

  • 去掉所有寒暄废话("Sure!", "Great question!", "Let me help you with that")
  • 用短句替代长句(碎片化表达,但技术信息零损失)
  • 保留所有代码、命令、错误信息(byte-for-byte 精确)
  • 支持 30+ 主流 Agent(Claude Code、Cursor、Copilot、Codex、Gemini、Windsurf、Cline、OpenClaw 等)

核心理念只有六个字:Brain still big. Mouth small.

它不改变 AI 的推理能力,不改变它能理解的上下文范围,只改变它输出回复的方式。就像一个聪明的工程师,脑子里什么都知道,但说话只用最精炼的表达。

三、Before/After:效果有多夸张?

这是官方给出的对比案例,我实测过,效果一致:

案例 1:React 组件 re-render 问题

普通 Agent(69 tokens):

The reason your React component is re-rendering is likely because you're creating a new object reference on each render cycle. When you pass an inline object as a prop, React's shallow comparison sees it as a different object every time, which triggers a re-render. I'd recommend using useMemo to memoize the object.

Caveman(19 tokens):

New object ref each render. Inline object prop = new ref = re-render. Wrap in useMemo.

Token 节省:72%。技术信息零损失。

案例 2:Auth middleware 调试

普通 Agent(98 tokens):

Sure! I'd be happy to help you with that. The issue you're experiencing is most likely caused by your authentication middleware not properly validating the token expiry. Let me take a look and suggest a fix.

Caveman(15 tokens):

Bug in auth middleware. Token expiry check use < not <=. Fix:

Token 节省:85%。废话清零。

案例 3:PostgreSQL 连接池配置

普通 Agent(2347 tokens): 长篇大论讲解连接池原理、各种配置参数的含义、最佳实践建议……

Caveman(380 tokens): 直接给出配置代码和关键参数说明。

Token 节省:84%。代码示例完整保留。

四、6 级压缩体系:从 Lite 到 Wenyan

Caveman 不是简单的「开/关」,它提供了 6 个压缩级别,通过 /caveman <level> 命令随时切换:

4.1 Lite(轻度压缩)

去掉冗余修饰,保留完整句子结构。适合需要保持一定正式度的场景。

# 普通 Agent
You should wrap the object in `useMemo`, since a new reference is created on every render.

# Lite
Wrap object in `useMemo`. New ref created every render.

4.2 Full(默认级别)

短句 + 碎片化表达,技术信息完整。这是推荐的日常使用级别。

# Full
New ref each render. Wrap object in `useMemo`.

4.3 Ultra(极致压缩)

极限精简,每个词都有信息量。适合高频调用场景(如 CI/CD 集成、批量任务)。

# Ultra
New ref/render. `useMemo` it.

4.4 Wenyan(文言文模式)

这个模式很有意思——用文言文风格回复,比英文更短但信息密度更高。Token 效率惊人。

# Wenyan
每渲染则新引用生。以 useMemo 包之。

4.5 各级别 Token 消耗对比

我用 10 个常见编程问题做了测试,统计输出 Token 数:

级别平均 Token相比普通 Agent
普通 Agent1214-
Lite580-52%
Full(默认)294-76%
Ultra180-85%
Wenyan210-83%

Full 级别在「可读性」和「Token 节省」之间取得了最佳平衡。

五、工作原理:它是怎么做到的?

Caveman 的核心其实就是一个精心设计的系统提示词(System Prompt)。安装后,它会在你的 Agent 配置中注入一段指令:

5.1 提示词注入机制

You are a caveman developer. Rules:
1. Drop ALL filler: no greetings, no "sure!", no "happy to help", 
   no "let me", no "I'd recommend"
2. Use fragments, not sentences. Subject-verb enough.
3. NEVER touch code, commands, URLs, paths, or error messages.
   These are byte-for-byte exact.
4. Keep technical accuracy at 100%. Compress style, not substance.
5. Match the user's language. Compress style, never translate.

5.2 为什么这能工作?

这里有一个反直觉的洞察:大模型的冗余不是来自「不知道」,而是来自「礼貌训练」。

在 RLHF(人类反馈强化学习)阶段,模型被训练得「友好」「有帮助」「乐于助人」。这导致它倾向于:

  • 开头加寒暄("Sure!", "Great question!")
  • 中间加解释("The reason is...")
  • 结尾加建议("I'd recommend...")
  • 用完整的句子结构(主语-谓语-宾语-从句)

这些在聊天场景下是好的,但在编程场景下就是纯浪费

Caveman 的提示词本质上是在告诉模型:在这个场景下,跳过所有社交润滑剂,直接输出技术信息。

5.3 安全边界

一个重要的设计决策:Caveman 只压缩风格,不压缩内容

  • ✅ 代码块:保持原样(包括缩进、注释、变量名)
  • ✅ 命令行:保持原样
  • ✅ 错误信息:保持原样
  • ✅ 文件路径:保持原样
  • ✅ URL:保持原样
  • ❌ 解释性文字:压缩
  • ❌ 寒暄废话:删除
  • ❌ 重复说明:合并

这意味着你永远不会因为压缩而丢失关键信息。

六、安装与配置实战

6.1 一键安装(推荐)

# macOS / Linux / WSL / Git Bash
curl -fsSL https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.sh | bash

# Windows PowerShell
irm https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.ps1 | iex

安装脚本会自动:

  1. 检测你机器上已安装的所有 Agent(支持 30+)
  2. 为每个 Agent 注入 Caveman Skill
  3. 设置默认压缩级别为 Full
  4. 完成!

整个过程约 30 秒,需要 Node.js ≥ 18。

6.2 单 Agent 安装

如果你只想给特定 Agent 安装:

# Claude Code
claude plugin marketplace add JuliusBrussee/caveman
claude plugin install caveman@caveman

# Gemini CLI
gemini extensions install https://github.com/JuliusBrussee/caveman

# Cursor / Windsurf / Cline / Copilot 等
npx skills add JuliusBrussee/caveman -a cursor

# OpenClaw
curl -fsSL https://raw.githubusercontent.com/JuliusBrussee/caveman/main/install.sh | bash -s -- --only openclaw

6.3 使用方式

安装完成后:

  • 开启:输入 /caveman 或说 "talk like caveman"
  • 关闭:说 "normal mode"
  • 切换级别/caveman lite/caveman ultra/caveman wenyan
  • 查看统计/caveman-stats

在 Claude Code、Codex、Gemini 上,Caveman 从第一条消息就自动生效,不需要手动开启。

七、命令体系详解

Caveman 不只是压缩回复,它还提供了一套实用命令:

7.1 /caveman-commit

生成 Conventional Commit 格式的提交信息,subject 控制在 50 字符以内。

# 普通 Agent 生成的 commit message
fix: resolve authentication middleware token expiry validation issue

# Caveman 生成的 commit message  
fix: auth token expiry check

为什么这很重要?因为 commit message 也会被 LLM 生成,每次省 20-30 Token,一天 50 次 commit 就是 1000-1500 Token。

7.2 /caveman-review

一行式 PR 评论,直接指出问题位置和修复建议:

L42: 🔴 bug: user null. Add guard.
L78: 🟡 perf: O(n²) loop. Use Map.
L156: 🟢 style: dead code. Remove.

7.3 /caveman-stats

显示当前会话的 Token 使用统计:

┌────────────────────────────────────────────┐
│   output tokens saved   █████████       65% │
│   input tokens saved    ░░░░░░░░░         0% │
│   technical accuracy    █████████      100% │
│   lifetime saved        ⛏ 12.4k tokens      │
│   estimated USD saved   $0.18               │
└────────────────────────────────────────────┘

7.4 /caveman-compress

这是最被低估的功能——压缩记忆文件

AI Agent 每次会话启动时都会读取一些配置文件(如 CLAUDE.mdAGENTS.mdSOUL.md)。这些文件的 Token 会每轮都消耗

/caveman-compress 会将这些文件重写为 Caveman 风格,平均压缩 46%:

文件类型原始压缩后节省
偏好配置70628559.6%
项目笔记114553553.3%
项目配置112263643.3%
待办清单62738838.1%
平均89848146%

这是「永久节省」——压缩后的文件在每次会话中都会以更小的体积加载,Token 节省是累积的。

7.5 caveman-shrink(MCP 中间件)

这是一个独立的 npm 包,可以包装任何 MCP Server,压缩其工具描述(tool descriptions)。

npx caveman-shrink --server my-mcp-server

MCP 工具的描述通常很长,每次调用都会消耗大量输入 Token。caveman-shrink 可以将这些描述压缩 40-60%。

7.6 cavecrew-*(子智能体)

Caveman 还提供了压缩版的子智能体系统:

  • cavecrew-investigator:调查型子智能体,Token 消耗比普通子智能体少 60%
  • cavecrew-builder:构建型子智能体
  • cavecrew-reviewer:审查型子智能体

主智能体的上下文窗口因此可以撑更久。

八、Caveman 生态:5 个项目,1 个理念

Caveman 不是一个孤立的项目,它属于一个更大的生态——让 AI 用更少的资源做更多的事

项目压缩目标说明
cavemanAgent 说的话输出风格压缩(本文主角)
caveman-code整个 Agent完整的终端编程 Agent,Token 消耗是 Codex 的 1/2
cavememAgent 的记忆跨会话记忆压缩
cavekit构建循环规格驱动开发,零猜测
cavegemma模型权重在 Gemma 上微调,把压缩能力烘焙进模型本身

caveman-code:压缩版编程 Agent

这是生态中最有野心的项目——一个从头构建的终端编程 Agent,每个环节都经过 Token 优化

npm install -g @juliusbrussee/caveman-code

支持 20+ LLM 提供商、Plan Mode(规划模式)、Autopilot(自动驾驶模式)。在相同任务上,Token 消耗只有 Codex 的一半。

cavegemma:把压缩烘焙进模型

最激进的尝试——通过微调 Google 的 Gemma 模型,让模型天生就会压缩输出。不需要提示词,不需要插件,模型本身就是压缩过的。

九、Benchmark 深度分析

9.1 官方 Benchmark 数据

Caveman 在 10 个真实编程任务上的表现:

任务普通 AgentCaveman节省
解释 React re-render bug118015987%
修复 auth middleware70412183%
PostgreSQL 连接池配置234738084%
git rebase vs merge70229258%
callback 重构为 async/await38730122%
微服务 vs 单体架构44631030%
PR 安全审查67839841%
Docker 多阶段构建104229072%
PostgreSQL 竞态条件调试120023281%
React Error Boundary 实现345445687%
平均121429465%

9.2 关键发现

  1. 解释性任务节省最大(80%+):因为这类任务的「废话」比例最高
  2. 代码重构任务节省较小(22-30%):因为代码本身占了大部分 Token
  3. 平均节省 65%:这个数字是可复现的,benchmark 数据在 benchmarks/ 目录中

9.3 诚实的数字

Caveman 作者在 docs/HONEST-NUMBERS.md 中坦诚地说明了几个限制:

  1. 只压缩输出 Token:输入 Token 和推理 Token 不受影响
  2. Skill 本身消耗 Token:每轮增加约 1-1.5K 输入 Token
  3. 在已经很简洁的任务上可能净亏损:如果你的 Agent 本来就很简洁,Caveman 可能反而增加总消耗
  4. 真实会话的节省比 benchmark 低:因为实际使用中还有工具调用、代码生成等不压缩的部分

,2026 年 3 月的一篇论文 Brevity Constraints Reverse Performance Hierarchies in Language Models 发现了一个有趣的现象:约束大模型输出简洁回答时,某些 benchmark 的准确率反而提升了约 26 分。

也就是说:少说废话不仅省钱,还可能更准确。

十、与其他 Token 优化方案的对比

方案类型压缩目标节省比例侵入性
Caveman输出风格输出 Token65%低(只改提示词)
Prompt CacheAPI 特性输入 Token~90%无(API 原生)
Context Window 管理架构输入 Token50-70%中(需要改代码)
模型蒸馏训练全部70-90%高(需要重新训练)
caveman-shrinkMCP 压缩输入 Token40-60%

Caveman 的独特价值在于:它是唯一一个零侵入性的输出压缩方案。 不需要改代码、不需要换模型、不需要改架构,一行命令安装,立刻生效。

十一、实战场景:什么时候该用 Caveman?

11.1 最适合的场景

  • 高频 AI 编程:一天 30+ 轮对话,Token 节省累积显著
  • CI/CD 集成:在自动化流水线中调用 AI,Token 成本敏感
  • 团队协作:多人共用一个 API Key,Token 预算有限
  • 长会话开发:需要在有限的上下文窗口内完成更多工作

11.2 不太适合的场景

  • 写文档/写文章:需要自然流畅的表达
  • 对外沟通:客户/用户看到「原始人」风格会困惑
  • 教学/培训:需要详细的解释和引导

11.3 最佳实践

  1. 日常开发用 Full 级别:平衡可读性和节省
  2. CI/CD 用 Ultra 级别:极限压缩,反正机器看
  3. 定期运行 /caveman-compress:压缩配置文件,永久节省
  4. 搭配 Prompt Cache 使用:输出压缩 + 输入缓存 = 双重节省
  5. 统计真实节省:用 /caveman-stats 跟踪实际效果,别只看 benchmark

十二、安装踩坑指南

12.1 常见问题

Q: Node.js 版本不够怎么办?

# 检查版本
node -v

# 如果 < 18,用 nvm 升级
nvm install 20
nvm use 20

Q: 安装后没效果?

  • Claude Code:确认 ~/.claude/plugins/ 目录下有 caveman 文件
  • Cursor:确认 .cursorrules 或对应配置文件被修改
  • 通用:重启 Agent,让它重新加载配置

Q: 压缩后代码出错了?

  • Caveman 不应该影响代码。如果出错,大概率是原本的 AI 就会出错
  • /caveman off 关闭后对比,确认是不是 Caveman 的问题

Q: 多个 Agent 之间会冲突吗?

  • 不会。每个 Agent 的 Caveman 配置是独立的
  • 可以为不同 Agent 设置不同压缩级别

12.2 性能影响

  • 安装时间:~30 秒
  • 每轮额外输入 Token:~1-1.5K(Skill 提示词)
  • 内存影响:无(纯提示词工程)
  • 网络影响:无(安装后零网络调用)

十三、社区与生态发展

13.1 数据表现

  • GitHub Stars:82K+(截至 2026 年 7 月 6 日)
  • 日增 Star:~2000
  • 支持 Agent 数量:30+
  • Issues:157(开放)
  • PR:210(开放)
  • 许可证:MIT

13.2 与 ECC、Superpowers 的关系

Caveman 与另外两个 GitHub 热门项目——Everything Claude Code (ECC, 20万 Stars) 和 Superpowers (24万 Stars)——是互补关系

  • ECC/Superpowers:关注「AI 怎么更好地写代码」(工程化工作流)
  • Caveman:关注「AI 怎么更省地说话」(Token 优化)

你可以同时使用 ECC + Caveman,或者 Superpowers + Caveman。它们解决的是不同层面的问题。

13.3 Caveman 2 路线图

作者已经公布了 Caveman 2 的计划:

Caveman make token small. Caveman 2 make it provable.

核心目标:从「本地估算」升级为「团队级可验证」。真实的数据看板,真实的收据,证明 Token 确实减少了。

十四、深度思考:Token 经济学的未来

14.1 Token 是新的「计算资源」

就像 CPU 时间、内存、带宽一样,Token 正在成为一种新的计算资源。不同的是:

  • CPU/内存:硬件层面,可以用更贵的机器解决
  • Token:API 层面,只能通过优化来降低成本

Caveman 的出现标志着一个趋势:Token 优化正在成为一个独立的技术领域。

14.2 压缩 vs 更大的上下文窗口

有人说:「上下文窗口越来越大,Token 成本会越来越低,压缩有什么意义?」

这个问题有两个误区:

  1. 上下文窗口变大 ≠ Token 变便宜:Opus 4 的 1M 上下文窗口,价格依然是 $75/M tokens
  2. 更大的上下文 ≠ 更好的结果:研究表明,过长的上下文反而会降低模型的注意力质量

压缩的意义不仅是省钱,更是提高信息密度——让模型把注意力集中在真正重要的信息上。

14.3 从「原始人」到「信息论最优」

Caveman 的「原始人」风格只是一个起点。真正的目标是信息论最优——在保持语义完整的前提下,用最少的 Token 传达最多的信息。

这个方向上还有很大的探索空间:

  • 语义压缩:不只是删减文字,而是用更高效的表达方式
  • 上下文感知压缩:根据对话历史动态调整压缩率
  • 领域自适应压缩:不同技术领域有不同的最优压缩策略

十五、总结

核心价值

Caveman 用一个极其简单的想法——让 AI 说话更简洁——解决了 AI 编程中一个真实存在的成本问题。65% 的输出 Token 节省,零侵入性,一行命令安装,支持 30+ Agent。

适用人群

  • ✅ 每天用 AI 编程的开发者
  • ✅ Token 成本敏感的团队
  • ✅ 追求极致效率的工程师
  • ❌ 需要自然语言输出的场景
  • ❌ 对外沟通/文档写作

一句话总结

Caveman 不是让 AI 变笨,是让 AI 闭嘴干活。Brain still big. Mouth small.


项目地址:https://github.com/JuliusBrussee/caveman
许可证:MIT
最后更新:2026-07-06

推荐文章

Rust开发笔记 | Rust的交互式Shell
2024-11-18 19:55:44 +0800 CST
Vue3中如何实现状态管理?
2024-11-19 09:40:30 +0800 CST
php机器学习神经网络库
2024-11-19 09:03:47 +0800 CST
H5抖音商城小黄车购物系统
2024-11-19 08:04:29 +0800 CST
Linux查看系统配置常用命令
2024-11-17 18:20:42 +0800 CST
18个实用的 JavaScript 函数
2024-11-17 18:10:35 +0800 CST
Redis和Memcached有什么区别?
2024-11-18 17:57:13 +0800 CST
10个几乎无人使用的罕见HTML标签
2024-11-18 21:44:46 +0800 CST
一个收银台的HTML
2025-01-17 16:15:32 +0800 CST
程序员茄子在线接单