Paikallisen RAG-järjestelmän rakentaminen monimutkaisille semanttisille teksteille: kun pilvi-tekoäly pettää ja MiniLM hajoaa filosofiaan
Kehittäjä kertoo paikallisen RAG-putkilinjan rakentamisesta Jane Robertsin filosofisille teksteille käyttäen multilingual-e5-large-upotuksia ja Qwen2.5:ttä LM Studion kautta. Projekti sisältää tiedon valmistelun, merkinnän, paloittelun ja haun. Kirjoittaja pyytää yhteisön palautetta Chroma-indeksin arkkitehtuurista, vuoropuhelutilan hallinnasta ja uudelleenrankkaajan käytöstä.
Sentence-Transformers (UKPLab)
LM Studio
Habr — хаб ИИ30.07 · 15:01