Cómo construir un RAG local para textos semánticos complejos: cuando la IA en la nube falla y MiniLM se rompe con la filosofía
Un desarrollador relata la construcción de un pipeline RAG local para textos filosóficos de Jane Roberts, utilizando embeddings multilingual-e5-large y Qwen2.5 a través de LM Studio. El proyecto incluye preparación de datos, marcado, segmentación y recuperación. El autor busca comentarios de la comunidad sobre la arquitectura del índice Chroma, la gestión del estado del diálogo y el uso de rerankers.
Sentence-Transformers (UKPLab)
LM Studio
Habr — хаб ИИ30.07 · 15:01