Token Saver: 오픈소스 MCP 확장, 로컬 하이브리드 RAG 사용으로 Claude PDF 토큰 비용 90-99% 절감
Marktechpost AI Media Inc
Anthropic
Marktechpost AI 팀이 Token Saver를 출시했습니다. 이는 Claude Desktop용 오픈소스 Model Context Protocol (MCP) 확장 프로그램으로, 로컬 하이브리드 RAG를 사용하여 대형 PDF의 토큰 비용을 92-99% 절감합니다. 파일을 업로드하지 않아 프라이버시를 보장하며, Python 환경 설정이 필요 없습니다.
Marktechpost AI 팀이 Arnav Rai, Jean-marc Mommessin, Asif Razzaq이 개발한 Token Saver를 오픈소스 MCP 확장 프로그램으로 출시했습니다(MIT 라이선스, v1.0). Token Saver는 로컬 MCP 서버로 작동하며, Local Hybrid RAG(BM25 키워드 매칭과 all-MiniLM-L6-v2를 사용한 의미 검색 결합)를 사용하여 PDF에서 관련 구절만 검색함으로써 전체 문서를 전송하는 방식 대비 토큰 소비를 92~99% 절감합니다. 이 확장 프로그램은 8단계 파이프라인을 통해 로컬에서 PDF를 처리합니다: pypdfium2로 텍스트 추출, 180단어 중첩 청크로 분할, Hybrid RAG로 점수 매기기, 품질 게이트 적용, 중복 제거, 답변에 맞게 정리, 페이로드 8000자로 제한, 출처 및 페이지 번호와 함께 래핑. 벤치마크 결과 33페이지 FDA 의약품 라벨에서 95.7%, 88페이지 GDPR에서 98.6%, 233페이지 SFFA 대 하버드 사건에서 99.4%의 절감 효과를 보였습니다. 보안은 제로 업로드, 폴더 허용 목록, 네트워크 격리(stdio 전용)를 통해 보장됩니다. Token Saver는 Claude 3.5 Sonnet(권장) 및 Opus와 함께 작동합니다. 설정은 .mcpb 번들을 다운로드하여 Claude Desktop에 설치하기만 하면 되며, Python이나 터미널 설정이 필요하지 않습니다.
출처: MarkTechPost —
원문
