Sentence-Transformers (UKPLab)

복잡한 의미론적 텍스트를 위한 로컬 RAG 구축: 클라우드 AI가 실패하고 MiniLM이 철학에서 무너질 때

한 개발자가 제인 로버츠의 철학적 텍스트를 위해 로컬 RAG 파이프라인을 구축한 경험을 이야기한다. 이 프로젝트는 multilingual-e5-large 임베딩과 LM Studio를 통한 Qwen2.5를 사용한다. 프로젝트에는 데이터 준비, 마크업, 청킹, 검색이 포함된다. 저자는 Chroma 인덱스 아키텍처, 대화 상태 관리, 재순위화기 사용에 대한 커뮤니티 피드백을 구한다.

Sentence-Transformers (UKPLab) LM Studio