Sentence-Transformers (UKPLab)

Xây dựng hệ thống RAG cục bộ cho văn bản ngữ nghĩa phức tạp: khi AI đám mây thất bại và MiniLM gặp khó với triết học

Một nhà phát triển kể lại quá trình xây dựng hệ thống RAG cục bộ cho các văn bản triết học của Jane Roberts, sử dụng embeddings multilingual-e5-large và Qwen2.5 thông qua LM Studio. Dự án bao gồm chuẩn bị dữ liệu, đánh dấu, phân đoạn và truy xuất. Tác giả tìm kiếm phản hồi từ cộng đồng về kiến trúc chỉ mục Chroma, quản lý trạng thái hội thoại và cách sử dụng bộ xếp hạng lại.

Sentence-Transformers (UKPLab) LM Studio