MCP без облака
В статье описывается альтернативное использование MCP (Model Context Protocol, протокола контекста модели) для предоставления модели доступа к большому локальному архиву документов. Вместо классического RAG (Retrieval-Augmented Generation, генерации с расширением поиска) предлагается структура индексов (index.md и subindex.md), которая позволяет модели извлекать только необходимые фрагменты, уменьшая контекст и токены, и избегая облака. Автор представляет свою реализацию – инструмент DocShelf, который конвертирует PDF в Markdown, разбивает их на разделы, строит индекс, хранит его в Git и подключается через MCP, с примером всего конвейера.
Автор утверждает, что MCP (Model Context Protocol) предназначен не только для агентов, но и может использоваться для других целей, например, для реализации поиска по большой локальной коллекции документов. Рассматривался классический RAG (Retrieval-Augmented Generation), но он требует значительной инфраструктуры (модели эмбеддингов, векторные базы данных, плановое переиндексирование) и не
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал