Token Saver: Açık Kaynaklı MCP Uzantısı ile Claude PDF Token Maliyetlerini %90-99 Oranında Azaltın
Marktechpost AI Media Inc
Anthropic
Marktechpost AI ekibi, Claude Desktop için açık kaynaklı Model Context Protocol (MCP) uzantısı olan Token Saver'ı yayınladı. Bu uzantı, yerel Hibrit RAG kullanarak büyük PDF'ler için token maliyetlerini %92-99 oranında azaltıyor. Dosyaları asla yüklemeyerek gizliliği garanti ediyor ve Python ortamı kurulumu gerektirmiyor.
Marktechpost yapay zeka ekibi, Arnav Rai, Jean-marc Mommessin ve Asif Razzaq tarafından geliştirilen, açık kaynaklı bir MCP (Model Context Protocol) uzantısı olan Token Saver'ı yayınladı (MIT lisanslı, v1.0). Token Saver, yerel bir MCP sunucusu olarak çalışır ve PDF'lerden yalnızca ilgili pasajları almak için Local Hybrid RAG (BM25 anahtar kelime eşleme ve all-MiniLM-L6-v2 ile anlamsal aramayı birleştiren) kullanarak, belgenin tamamını göndermeye kıyasla token tüketimini %92-99 oranında azaltır. Uzantı, PDF'leri 8 aşamalı bir işlem hattıyla yerel olarak işler: pypdfium2 ile metin çıkarma, 180 kelimelik örtüşen pasajlara ayırma, hibrit RAG ile puanlama, kalite filtresi uygulama, yineleme giderme, yanıta göre kırpma, yükü 8000 karakterle sınırlama ve kaynak ile sayfa numarası ekleme. Kıyaslamalar, 33 sayfalık bir FDA ilaç etiketi için %95,7, 88 sayfalık GDPR için %98,6 ve 233 sayfalık SFFA v. Harvard için %99,4 tasarruf göstermektedir. Güvenlik, sıfır yükleme, klasör izin listesi ve ağ izolasyonu (yalnızca stdio) ile sağlanır. Token Saver, Claude 3.5 Sonnet (önerilen) ve Opus ile çalışır. Kurulum için yalnızca bir .mcpb paketi indirip Claude Desktop'a Python veya terminal yapılandırması olmadan yüklemek yeterlidir.
Kaynak: MarkTechPost —
orijinal
