MCP mà không cần đám mây

Tác giả lập luận rằng MCP không chỉ dành cho các agent, mà còn có thể được sử dụng cho các mục đích khác, chẳng hạn như triển khai truy xuất từ một bộ sưu tập tài liệu cục bộ lớn. RAG cổ điển đã được cân nhắc, nhưng nó đòi hỏi cơ sở hạ tầng đáng kể (mô hình embedding, cơ sở dữ liệu vector, lập lịch lập chỉ mục lại) và không cung cấp tính minh bạch để kiểm toán lý do tại sao mô hình chọn một đoạn cụ thể. Thay vào đó, đề xuất sử dụng một tệp chỉ mục (ý tưởng llms.txt) hoạt động như một bảng mục lục: mô hình trước tiên đọc chỉ mục, sau đó đọc chỉ mục con, và chỉ sau đó mới tìm nạp phần cụ thể của một tài liệu. Tác giả đã tạo ra công cụ DocShelf, một máy chủ MCP chuyển đổi PDF sang Markdown, làm sạch, chia thành các phần, tạo index.md và subindex.md, lưu trữ tất cả trong Git, và kết nối nó với mô hình. Quy trình như sau: PDF sang Markdown, sau đó chia thành các phần, sau đó xây dựng chỉ mục, sau đó lưu trong Git, sau đó qua máy chủ MCP đến LLM. Mô hình chỉ tiêu thụ một phần rất nhỏ của toàn bộ kho lưu trữ: trong ví dụ với một kệ 85 MB, khoảng 16,5 KB ngữ cảnh đã được sử dụng. Bài viết cũng nêu bật các cạm bẫy phổ biến: các vấn đề phân tích cú pháp PDF, hỏng Cyrillic, cấu trúc Markdown kém, và cung cấp một bảng khắc phục sự cố. Hai bộ chuyển đổi có sẵn: pymupdf4llm (nhanh, không cần GPU) và marker-pdf (cho các trường hợp phức tạp, nhưng nặng). DocShelf hỗ trợ Git như một nơi lưu trữ, kiểm soát phiên bản và xem xét, và có thể làm việc trong các mạng đóng. Tác giả kết luận rằng cách tiếp cận này là một giải pháp thay thế khả thi cho RAG cổ điển trong các tình huống cần kiểm toán và kho ngữ liệu là cục bộ.