разбиваются на фрагменты, преобразуются в векторные представления с помощью модели nomic-embed-text и сохраняются в PostgreSQL с pgvector для семантического поиска. При обработке запроса система генерирует векторное представление запроса, находит похожие фрагменты с помощью поиска приблизительных ближайших соседей (HNSW) и передает релевантный контекст модели llama3.2 через Ollama для генерации ответа. Такой подход гарантирует полную конфиденциальность данных и автономность, избегая внешних вызовов API. Статья подчеркивает важность использования одной и той же модели для создания векторных представлений как при индексации, так и при обработке запросов для поддержания согласованности векторного пространства.