Token Saver: Tiện ích mở rộng MCP mã nguồn mở giúp giảm chi phí token PDF của Claude từ 90-99% bằng Hybrid RAG cục bộ

Nhóm AI của Marktechpost đã phát hành Token Saver, một tiện ích mở rộng MCP mã nguồn mở dành cho Claude Desktop (giấy phép MIT, phiên bản v1.0) do Arnav Rai, Jean-marc Mommessin và Asif Razzaq phát triển. Token Saver hoạt động như một máy chủ MCP cục bộ sử dụng Local Hybrid RAP (kết hợp đối sánh từ khóa BM25 và tìm kiếm ngữ nghĩa với all-MiniLM-L6-v2) để chỉ truy xuất các đoạn văn bản liên quan từ tệp PDF, giảm mức tiêu thụ token từ 92-99% so với việc gửi toàn bộ tài liệu. Tiện ích mở rộng này xử lý tệp PDF cục bộ thông qua quy trình 8 bước: trích xuất văn bản bằng pypdfium2, chia thành các đoạn 180 từ có chồng lấn, chấm điểm bằng Hybrid RAP, áp dụng bộ lọc chất lượng, loại bỏ trùng lặp, cắt gọn để trả lời, giới hạn tải trọng ở 8000 ký tự và đóng gói kèm nguồn và số trang. Các bài kiểm tra cho thấy mức tiết kiệm 95,7% đối với nhãn thuốc FDA dài 33 trang, 98,6% đối với GDPR dài 88 trang và 99,4% đối với SFFA kiện Harvard dài 233 trang. Bảo mật được đảm bảo nhờ không tải lên dữ liệu, danh sách cho phép thư mục và cách ly mạng (chỉ qua stdio). Token Saver hoạt động với Claude 3.5 Sonnet (khuyến nghị) và Opus. Thiết lập chỉ yêu cầu tải xuống gói .mcpb và cài đặt trong Claude Desktop mà không cần cấu hình Python hay terminal.