Pinecone ra mắt Nexus Engine: Cấu trúc bối cảnh kinh doanh cho tác tử AI
Pinecone đã phát hành Nexus, một công cụ kiến thức chuyển đổi dữ liệu doanh nghiệp thành lớp cấu trúc có thể truy cập bởi các tác tử AI. Những người dùng đầu tiên báo cáo độ chính xác tăng đáng kể và chi phí token giảm (1/9 đến 1/15) so với hệ thống RAG, đặc biệt trong lĩnh vực pháp lý và tài chính.
Pinecone Nexus hiện đã có sẵn rộng rãi như một công cụ tri thức cho các tác nhân AI, chuyển đổi dữ liệu doanh nghiệp thành một lớp có cấu trúc có thể truy vấn trực tiếp bởi các tác nhân. Các nhóm chỉ cần nhập và tổ chức ngữ cảnh kinh doanh một lần, sau đó tái sử dụng dữ liệu trên nhiều tác nhân, cải thiện độ chính xác đồng thời giảm chi phí token. Pinecone lập luận rằng các mô hình ngôn ngữ lớn (LLM) xử lý tốt kiến thức tổng quát và cơ sở dữ liệu vector xác định thông tin cụ thể, nhưng doanh nghiệp phụ thuộc vào ngữ cảnh kinh doanh nằm rải rác trong các hợp đồng, cơ sở tri thức, tài liệu nhân sự, ghi chú cuộc họp, vé hỗ trợ và hồ sơ tài chính. Việc yêu cầu các tác nhân tìm kiếm mỗi lần là không hiệu quả, gây ra chi phí token cao hơn và phản hồi chậm hơn. Nexus tích hợp tri thức phân tán thành một lớp có cấu trúc, chuyển chi phí token từ truy xuất theo từng truy vấn sang nhập liệu một lần. Những người áp dụng sớm trong lĩnh vực pháp lý và dịch vụ tài chính đã thấy những cải thiện đáng kể: trong các tác vụ pháp lý, Nexus hoàn thành tất cả các nhiệm vụ được giao, trong khi các tác nhân mã hóa đạt 6% và hệ thống RAG đạt 66%. RAG gặp khó khăn với tổng hợp học thuyết, lập luận xuyên suốt các vụ án và các câu hỏi về phạm vi yêu cầu tích hợp nhiều nguồn. Mức tiêu thụ token giảm xuống còn khoảng 1/9 đến 1/15. Trong quản lý dữ liệu doanh nghiệp, Nexus đạt độ chính xác 90% so với 65% của RAG, với chi phí 0,0038 đô la mỗi tài liệu. Nexus sử dụng Workspaces làm vùng chứa cấp cao nhất, Contexts cho các tập dữ liệu cụ thể, Manifests cho các quy tắc nhập liệu và các chuyên gia miền có thể nhúng tri thức thông qua blueprints. Nhập liệu hỗ trợ tệp cục bộ, Box và Microsoft OneLake; Google Drive, Slack, GitHub, Notion, Confluence và S3 sắp ra mắt. Truy vấn sử dụng KnowQL, có thể được sử dụng bởi các tác nhân, chatbot và hệ thống gợi ý. Nexus cung cấp trải nghiệm xem trước và tùy chọn triển khai BYOC để tuân thủ nghiêm ngặt về cư trú dữ liệu và quy định. Các đối thủ cạnh tranh bao gồm Cognite, RationalAI và LlamaIndex.
Nguồn: InfoQ 中国 —
bản gốc