Token Saver: Open-Source MCP-extensie verlaagt Claude PDF-tokenkosten met 90-99% via lokale hybride RAG
Marktechpost AI Media Inc
Anthropic
Het AI-team van Marktechpost heeft Token Saver uitgebracht, een open-source Model Context Protocol (MCP)-extensie voor Claude Desktop die gebruikmaakt van lokale hybride RAG om tokenkosten voor grote PDF's met 92-99% te verlagen. Het waarborgt privacy door nooit bestanden te uploaden en vereist geen Python-omgeving.
Het Marktechpost AI-team heeft Token Saver uitgebracht, een open-source MCP-extensie voor Claude Desktop (MIT-licentie, v1.0) ontwikkeld door Arnav Rai, Jean-marc Mommessin en Asif Razzaq. Token Saver fungeert als een lokale MCP-server die gebruikmaakt van Local Hybrid RAG (een combinatie van BM25-keyword-matching en semantisch zoeken met all-MiniLM-L6-v2) om alleen relevante passages uit PDF's te halen, waardoor het tokenverbruik met 92-99% wordt verlaagd in vergelijking met het versturen van het hele document. De extensie verwerkt PDF's lokaal via een pijplijn van acht stappen: tekst extraheren via pypdfium2, opdelen in overlappende passages van 180 woorden, scoren met Hybrid RAG, kwaliteitscontrole toepassen, duplicaten verwijderen, inkorten tot antwoord, payload beperken tot 8000 tekens, en bron- en paginanummer toevoegen. Benchmarks tonen besparingen van 95,7% voor een FDA-geneesmiddelenbijsluiter van 33 pagina's, 98,6% voor GDPR van 88 pagina's en 99,4% voor SFFA versus Harvard van 233 pagina's. Beveiliging wordt gegarandeerd door nul uploads, map-toelatingslijsten en netwerkisolatie (alleen stdio). Token Saver werkt met Claude 3.5 Sonnet (aanbevolen) en Opus. Installatie vereist alleen het downloaden van een .mcpb-bundel en het installeren ervan in Claude Desktop, zonder Python of terminalconfiguratie.
Bron: MarkTechPost —
origineel
