Token Saver: Ekstensi MCP Open-Source Memangkas Biaya Token PDF Claude hingga 90-99% Menggunakan Hybrid RAG Lokal
Marktechpost AI Media Inc
Anthropic
Tim AI Marktechpost merilis Token Saver, sebuah ekstensi Model Context Protocol (MCP) open-source untuk Claude Desktop yang menggunakan Hybrid RAG lokal untuk mengurangi biaya token untuk PDF besar hingga 92-99%. Ekstensi ini memastikan privasi dengan tidak pernah mengunggah file dan tidak memerlukan pengaturan lingkungan Python.
Tim AI Marktechpost merilis Token Saver, sebuah ekstensi MCP sumber terbuka untuk Claude Desktop (lisensi MIT, v1.0) yang dikembangkan oleh Arnav Rai, Jean-marc Mommessin, dan Asif Razzaq. Token Saver berfungsi sebagai server MCP lokal yang menggunakan Local Hybrid RAG (menggabungkan pencocokan kata kunci BM25 dan pencarian semantik dengan all-MiniLM-L6-v2) untuk mengambil hanya bagian relevan dari PDF, mengurangi konsumsi token sebesar 92-99% dibandingkan mengirimkan seluruh dokumen. Ekstensi ini memproses PDF secara lokal melalui pipeline 8 tahap: mengekstrak teks menggunakan pypdfium2, memotong menjadi bagian 180 kata yang tumpang tindih, menilai dengan hybrid RAG, menerapkan gerbang kualitas, menghapus duplikat, memotong hingga jawaban, membatasi payload hingga 8000 karakter, dan membungkus dengan sumber serta nomor halaman. Tolok ukur menunjukkan penghematan sebesar 95,7% untuk label obat FDA sepanjang 33 halaman, 98,6% untuk GDPR sepanjang 88 halaman, dan 99,4% untuk SFFA lwn. Harvard sepanjang 233 halaman. Keamanan dijamin melalui nol unggahan, daftar izin folder, dan isolasi jaringan (khusus stdio). Token Saver bekerja dengan Claude 3.5 Sonnet (direkomendasikan) dan Opus. Pengaturan hanya memerlukan mengunduh bundel .mcpb dan menginstalnya di Claude Desktop tanpa konfigurasi Python atau terminal.
Sumber: MarkTechPost —
asli
