用Go、PostgreSQL和Ollama构建本地RAG系统，无需云API

文章描述了如何在不使用云API的情况下，构建一个本地RAG（检索增强生成）系统，使用Go、PostgreSQL的pgvector扩展和Ollama。该系统由两个主要组件组成：一个用于离线索引文档的摄取命令行工具，以及一个用于实时处理用户查询的REST API。文档被分割成块，使用nomic-embed-text模型进行嵌入，并存储在带有pgvector的PostgreSQL中，用于语义搜索。在查询时，系统为查询生成嵌入，使用近似最近邻搜索（HNSW）查找相似块，并将相关上下文通过Ollama传递给llama3.2模型以生成答案。这种方法确保了数据的完全隐私和自主性，避免了外部API调用。文章强调了在索引和查询时使用相同的嵌入模型以保持向量空间一致性的重要性。