Token Saver:オープンソースのMCP拡張がローカルハイブリッドRAGを使用してClaude PDFのトークンコストを90~99%削減
Marktechpost AI Media Inc
Anthropic
Marktechpost AIチームは、Claude Desktop向けのオープンソースのModel Context Protocol(MCP)拡張機能「Token Saver」を公開しました。ローカルハイブリッドRAGを使用することで、大規模PDFのトークンコストを92~99%削減します。ファイルをアップロードしないためプライバシーが保証され、Python環境のセットアップも不要です。
Marktechpost AI チームは、Token Saver をリリースしました。これは、Claude Desktop 向けのオープンソース MCP 拡張機能(MIT ライセンス、v1.0)であり、Arnav Rai、Jean-marc Mommessin、Asif Razzaq によって開発されました。Token Saver は、ローカル MCP サーバーとして動作し、Local Hybrid RAG(BM25 キーワードマッチングと all-MiniLM-L6-v2 によるセマンティック検索を組み合わせたもの)を使用して、PDF から関連するパッセージのみを取得します。これにより、文書全体を送信する場合と比較して、トークン消費量を 92〜99% 削減します。この拡張機能は、pypdfium2 によるテキスト抽出、180 ワードの重複するパッセージへの分割、ハイブリッド RAG によるスコアリング、品質ゲートの適用、重複排除、回答へのトリミング、ペイロードを 8000 文字に制限、ソースとページ番号のラッピングという 8 段階のパイプラインを通じて、PDF をローカル処理します。ベンチマークでは、33 ページの FDA 医薬品ラベルで 95.7%、88 ページの GDPR で 98.6%、233 ページの SFFA 対ハーバード大学訴訟で 99.4% の削減が示されています。セキュリティは、アップロードゼロ、フォルダの許可リスト化、ネットワーク分離(標準入出力のみ)により確保されています。Token Saver は、Claude 3.5 Sonnet(推奨)および Opus で動作します。セットアップは、.mcpb バンドルをダウンロードして Claude Desktop にインストールするだけで、Python やターミナルの設定は不要です。
出典: MarkTechPost —
原文
