C
ChaoBro

rtk:一个 Rust 二进制文件,把 AI 编程的 token 开销砍掉 60-90%

rtk:一个 Rust 二进制文件,把 AI 编程的 token 开销砍掉 60-90%

你每天用 Claude Code、Codex 或者 Cursor 写代码的时候,有没有算过一笔账?

那些看起来"理所当然"的命令——lsgrepfindgit status——每一次都会消耗 LLM 的 token。LLM 不知道你只想看个目录列表,它把整个输出当作上下文吞下去,计费器在疯狂跳动。

rtk 做的事情很简单也很粗暴:在命令到达 LLM 之前,拦截它,压缩它,只保留 LLM 真正需要的部分。

rtk 是什么

rtk(rtk-ai/rtk)是一个用 Rust 编写的 CLI 代理工具。51,300+ stars,3,100+ forks。

它只有一个文件——一个 Rust 编译出来的二进制文件。零依赖。下载就能用。

工作原理:rtk 作为一个代理层插入到你的 AI 编程工具和 LLM API 之间。当你执行 ls -la /some/deep/path 时,rtk 会截获这个命令的执行结果,分析哪些信息对 LLM 来说是真正有价值的,然后只发送压缩后的摘要。

能省多少

官方数据:60-90% 的 token 节省,针对常见的开发命令。

这不是什么魔法。它的做法本质上是在做"信息蒸馏":

  • ls 输出的几十行文件名 → 压缩成关键文件和目录结构的摘要
  • git diff 的几百行变更 → 提取变更的核心模式
  • grep 的大量匹配结果 → 去重、分组、提取关键上下文

LLM 不需要看到完整的目录列表才能理解项目结构。它只需要知道"这个项目有三个主要模块,每个模块有各自的测试目录"就够了。

技术亮点

  • Rust 实现:单个二进制文件,启动时间毫秒级,内存占用极低
  • 零依赖:不需要安装 Python、Node.js 或者其他运行时
  • 透明代理:对你的 AI 编程工具完全透明,不需要修改任何配置
  • OpenClaw 插件:已经支持 OpenClaw 的透明执行重写
  • Hermes 集成:最近新增了对 Hermes Agent 的集成支持
  • 960 commits:项目迭代非常活跃,昨天还有新的 PR 合并

真实价值

这笔账很容易算:如果你每天花 8 小时用 AI 编程工具,每天消耗 50 万 token,rtk 可以帮你省到 5-20 万 token。一个月下来,省下的钱可能足够买一杯咖啡——或者如果团队规模大一点,可能够付一顿饭钱。

但 rtk 的意义不止于省钱。它解决了一个更深层的问题:LLM 的上下文窗口是被大量无用信息浪费的。当 token 预算被 lsgrep 的输出占满,留给真正重要代码的上下文就少了。

rtk 让 LLM 看到的信息更精炼,某种意义上也让它"更聪明"了。

适合谁

  • 重度使用 AI 编程工具的开发者
  • 对 API 成本敏感的个人和团队
  • 喜欢折腾工具链的 Rust 爱好者

不太适合:偶尔用一下 ChatGPT 写几行代码的用户——节省效果不明显。