Создание локального RAG для сложных семантических текстов: когда облачный ИИ не справляется, а MiniLM ломается на философии
Разработчик рассказывает о создании локального конвейера RAG для философских текстов Джейн Робертс, используя эмбеддинги multilingual-e5-large и Qwen2.5 через LM Studio. Проект включает подготовку данных, разметку, разбиение на фрагменты и поиск. Автор ищет обратную связь сообщества по архитектуре индекса Chroma, управлению состоянием диалога и использованию реранкера.
Habr — хаб ИИ30.07 · 15:01