MCP ohne die Cloud
Der Artikel beschreibt eine alternative Nutzung von MCP (Model Context Protocol), um einem Modell Zugriff auf ein großes lokales Dokumentenarchiv zu ermöglichen. Statt klassischem RAG wird eine Struktur aus Indizes (index.md und subindex.md) vorgeschlagen, die es dem Modell erlaubt, nur die notwendigen Fragmente abzurufen, was Kontext und Tokens reduziert und die Cloud vermeidet. Der Autor stellt seine eigene Implementierung vor – das Tool DocShelf, das PDFs in Markdown konvertiert, sie in Abschnitte aufteilt, einen Index erstellt, in Git speichert und über MCP verbindet, mit einem Beispiel für die gesamte Pipeline.
Der Autor argumentiert, dass MCP nicht nur für Agenten gedacht ist, sondern auch für andere Zwecke verwendet werden kann, etwa um den Abruf aus einer großen lokalen Dokumentensammlung zu implementieren. Klassisches RAG wurde in Betracht gezogen, erfordert jedoch eine erhebliche Infrastruktur (Embedding-Modelle, Vektordatenbanken, geplante Neuindizierung) und bietet keine Transparenz für die Prüfung, warum das Modell ein bestimmtes Fragment ausgewählt hat. Stattdessen wird vorgeschlagen, eine Indexdatei (llms.txt-Idee) zu verwenden, die als Inhaltsverzeichnis fungiert: Das Modell liest zuerst den Index, dann den Unterindex und erst danach den spezifischen Abschnitt eines Dokuments. Der Autor hat das Tool DocShelf entwickelt, einen MCP-Server, der PDF in Markdown umwandelt, bereinigt, in Abschnitte aufteilt, index.md und subindex.md erstellt, alles in Git speichert und mit dem Modell verbindet. Die Pipeline sieht wie folgt aus: PDF zu Markdown, dann Aufteilung in Abschnitte, dann Indexerstellung, dann Speicherung in Git, dann über MCP-Server zu LLM. Das Modell verbraucht nur einen winzigen Bruchteil des gesamten Archivs: Im Beispiel mit einem 85 MB großen Regal wurden etwa 16,5 KB Kontext verwendet. Der Artikel hebt auch häufige Fallstricke hervor: Probleme beim PDF-Parsing, Beschädigung von kyrillischen Zeichen, schlechte Markdown-Struktur und bietet eine Tabelle zur Fehlerbehebung. Zwei Konverter sind verfügbar: pymupdf4llm (schnell, keine GPU) und marker-pdf (für komplexe Fälle, aber schwergewichtig). DocShelf unterstützt Git als Speicher, Versionierung und Überprüfung und kann in geschlossenen Netzwerken arbeiten. Der Autor schlussfolgert, dass dieser Ansatz eine praktikable Alternative zum klassischen RAG in Szenarien ist, in denen Audits erforderlich sind und der Korpus lokal ist.
Quelle: Habr — хаб ИИ —
Original