Pinecone Luncurkan Nexus Engine: Menstrukturkan Konteks Bisnis untuk Agen AI

Pinecone Nexus kini tersedia secara umum sebagai mesin pengetahuan untuk agen AI, yang mengubah data perusahaan menjadi lapisan terstruktur yang dapat langsung diakses oleh agen. Tim memasukkan dan mengatur konteks bisnis sekali, lalu menggunakan kembali data di berbagai agen, meningkatkan akurasi sekaligus mengurangi biaya token. Pinecone berpendapat bahwa Large Language Model (LLM) menangani pengetahuan umum dengan baik dan basis data vektor menemukan informasi spesifik, tetapi perusahaan bergantung pada konteks bisnis yang tersebar di kontrak, basis pengetahuan, dokumen SDM, catatan rapat, tiket dukungan, dan catatan keuangan. Membuat agen mencari setiap kali tidak efisien, menyebabkan biaya token lebih tinggi dan respons lebih lambat. Nexus mengintegrasikan pengetahuan yang terdistribusi ke dalam lapisan terstruktur, memindahkan konsumsi token dari pengambilan per kueri menjadi satu kali pemasukan. Pengadopsi awal di layanan hukum dan keuangan melihat peningkatan signifikan: dalam tugas hukum, Nexus menyelesaikan semua tugas yang diberikan, sementara agen pengkodean mencapai 6% dan sistem Retrieval-Augmented Generation (RAG) mencapai 66%. RAG kesulitan dengan sintesis doktrin, penalaran lintas kasus, dan pertanyaan cakupan yang memerlukan integrasi beberapa sumber. Konsumsi token turun menjadi sekitar 1/9 hingga 1/15. Dalam manajemen data perusahaan, Nexus mencapai akurasi 90% vs. 65% untuk RAG, dengan biaya $0,0038 per dokumen. Nexus menggunakan Workspaces sebagai wadah tingkat atas, Contexts untuk kumpulan data spesifik, Manifests untuk aturan pemasukan, dan pakar domain dapat menyematkan pengetahuan melalui cetak biru. Pemasukan data mendukung file lokal, Box, dan Microsoft OneLake; Google Drive, Slack, GitHub, Notion, Confluence, dan S3 akan segera hadir. Kueri menggunakan KnowQL, yang dapat digunakan oleh agen, chatbot, dan sistem rekomendasi. Nexus menawarkan pratinjau pengalaman dan opsi penyebaran BYOC untuk residensi data dan kepatuhan yang ketat. Pesaing termasuk Cognite, RationalAI, dan LlamaIndex.