MCP tanpa cloud
Artikel ini menjelaskan penggunaan alternatif MCP (Model Context Protocol) untuk memberikan model akses ke arsip dokumen lokal yang besar. Alih-alih menggunakan RAG klasik, diusulkan struktur indeks (index.md dan subindex.md) yang memungkinkan model mengambil hanya fragmen yang diperlukan, mengurangi konteks dan token, serta menghindari cloud. Penulis memaparkan implementasinya sendiri – alat DocShelf, yang mengonversi PDF ke Markdown, memecahnya menjadi bagian-bagian, membangun indeks, menyimpannya di Git, dan menghubungkannya melalui MCP, dengan contoh seluruh alur kerja.
Penulis berpendapat bahwa MCP tidak hanya untuk agen, tetapi dapat digunakan untuk tujuan lain, seperti implementasi pengambilan informasi dari koleksi dokumen lokal yang besar. RAG klasik sempat dipertimbangkan, tetapi membutuhkan infrastruktur yang signifikan (model embedding, basis data vektor, penjadwalan pengindeksan ulang) dan tidak memberikan transparansi untuk mengaudit mengapa model memilih fragmen tertentu. Sebagai gantinya, diusulkan untuk menggunakan file indeks (ide llms.txt) yang berfungsi sebagai daftar isi: model pertama-tama membaca indeks, kemudian subindeks, dan baru kemudian mengambil bagian spesifik dari sebuah dokumen. Penulis membuat alat DocShelf, server MCP yang mengonversi PDF ke Markdown, membersihkannya, memecahnya menjadi beberapa bagian, membuat index.md dan subindex.md, menyimpan semuanya di Git, dan menghubungkannya ke model. Pipeline-nya adalah sebagai berikut: PDF ke Markdown, kemudian pemecahan menjadi beberapa bagian, kemudian pembuatan indeks, kemudian penyimpanan di Git, kemudian melalui server MCP ke LLM. Model hanya mengonsumsi sebagian kecil dari total arsip: dalam contoh dengan rak 85 MB, sekitar 16,5 KB konteks yang digunakan. Artikel ini juga menyoroti jebakan umum: masalah penguraian PDF, kerusakan huruf Sirilik, struktur Markdown yang buruk, dan memberikan tabel pemecahan masalah. Dua konverter tersedia: pymupdf4llm (cepat, tanpa GPU) dan marker-pdf (untuk kasus kompleks, tetapi berat). DocShelf mendukung Git sebagai penyimpanan, kontrol versi, dan tinjauan, serta dapat bekerja di jaringan tertutup. Penulis menyimpulkan bahwa pendekatan ini merupakan alternatif yang layak untuk RAG klasik dalam skenario di mana audit diperlukan dan korpus bersifat lokal.
Sumber: Habr — хаб ИИ —
asli