Token Saver:开源MCP扩展通过本地混合RAG将Claude PDF令牌成本降低90-99%
Marktechpost AI Media Inc
Anthropic
Marktechpost AI团队发布了Token Saver,这是一个针对Claude Desktop的开源模型上下文协议(MCP)扩展,它使用本地混合RAG将大型PDF的令牌成本降低92-99%。该扩展确保隐私,从不上传文件,且无需设置Python环境。
Marktechpost AI团队发布了Token Saver,这是一款开源的Claude Desktop MCP扩展(MIT许可,v1.0版本),由Arnav Rai、Jean-marc Mommessin和Asif Razzaq共同开发。Token Saver作为一个本地MCP服务器,采用本地混合检索增强生成技术(Local Hybrid RAG,结合BM25关键词匹配与all-MiniLM-L6-v2语义搜索),仅从PDF中检索相关段落,相比直接发送整个文档,可将令牌消耗降低92%-99%。该扩展通过8阶段流水线在本地处理PDF:使用pypdfium2提取文本,分割成180词的重叠段落,通过混合RAG评分,应用质量门控,去重,精简至回答问题所需内容,将载荷上限设为8000字符,并附上来源和页码信息。基准测试显示,对于一份33页的FDA药品标签,可节省95.7%的令牌;对于88页的通用数据保护条例(GDPR),可节省98.6%;对于233页的SFFA诉哈佛大学案,可节省99.4%。安全性通过零上传、文件夹白名单和网络隔离(仅限标准输入输出stdio)得到保障。Token Saver兼容Claude 3.5 Sonnet(推荐)和Opus。安装只需下载.mcpb捆绑包并通过Claude Desktop安装,无需Python或终端配置。
来源: MarkTechPost —
原文
