Sentence-Transformers (UKPLab)

Construindo um RAG local para textos semânticos complexos: quando a IA em nuvem falha e o MiniLM não dá conta da filosofia

Um desenvolvedor relata a construção de um pipeline RAG local para textos filosóficos de Jane Roberts, usando embeddings multilingual-e5-large e Qwen2.5 via LM Studio. O projeto inclui preparação de dados, marcação, divisão em partes (chunking) e recuperação. O autor busca feedback da comunidade sobre a arquitetura do índice Chroma, gerenciamento de estado de diálogo e uso de reranker.

Sentence-Transformers (UKPLab) LM Studio