Pinecone, Nexus 엔진 출시: AI 에이전트를 위한 비즈니스 컨텍스트 구조화
Pinecone이 기업 데이터를 AI 에이전트가 접근할 수 있는 구조화된 계층으로 변환하는 지식 엔진 Nexus를 출시했습니다. 초기 도입자들은 법률 및 금융 분야에서 RAG 시스템에 비해 상당한 정확도 향상과 토큰 비용 절감(1/9~1/15)을 보고했습니다.
Pinecone Nexus가 AI 에이전트를 위한 지식 엔진으로 일반 공급되어, 엔터프라이즈 데이터를 에이전트가 직접 쿼리할 수 있는 구조화된 계층으로 변환합니다. 팀은 비즈니스 컨텍스트를 한 번 수집하고 구성한 후, 데이터를 여러 에이전트에서 재사용하여 정확도를 높이면서 토큰 비용을 절감할 수 있습니다. Pinecone은 LLM이 일반적인 지식을 잘 처리하고 벡터 데이터베이스가 특정 정보를 찾는 데 능숙하지만, 기업은 계약서, 지식 베이스, 인사 문서, 회의록, 지원 티켓, 재무 기록 등에 흩어져 있는 비즈니스 컨텍스트에 의존한다고 주장합니다. 에이전트가 매번 검색하게 하면 비효율적이며, 토큰 비용이 증가하고 응답 속도가 느려집니다. Nexus는 분산된 지식을 구조화된 계층으로 통합하여, 토큰 소비를 쿼리당 검색에서 일회성 수집으로 전환합니다. 법률 및 금융 서비스 분야의 초기 도입 사례에서 상당한 개선이 있었습니다. 법률 작업에서 Nexus는 모든 할당된 작업을 완료한 반면, 코딩 에이전트는 6%, RAG 시스템은 66%의 완료율을 보였습니다. RAG는 문서 종합, 사례 간 추론, 여러 출처를 통합해야 하는 범위 질문에 어려움을 겪었습니다. 토큰 소비는 약 1/9에서 1/15로 감소했습니다. 엔터프라이즈 데이터 관리에서 Nexus는 90%의 정확도를 달성한 반면 RAG는 65%였으며, 문서당 비용은 0.0038달러였습니다. Nexus는 최상위 컨테이너로 Workspaces, 특정 데이터 세트로 Contexts, 수집 규칙으로 Manifests를 사용하며, 도메인 전문가는 블루프린트를 통해 지식을 임베드할 수 있습니다. 데이터 수집은 로컬 파일, Box, Microsoft OneLake를 지원하며, Google Drive, Slack, GitHub, Notion, Confluence, S3는 곧 지원될 예정입니다. 쿼리는 KnowQL을 사용하며, 에이전트, 챗봇, 추천 시스템이 사용할 수 있습니다. Nexus는 프리뷰 경험과 엄격한 데이터 레지던시 및 규정 준수를 위한 BYOC 배포 옵션을 제공합니다. 경쟁사로는 Cognite, RationalAI, LlamaIndex가 있습니다.
출처: InfoQ 中国 —
원문
