Pinecone, Nexus Motorunu Tanıttı: AI Ajanları için İş Bağlamını Yapılandırma
Pinecone, kurumsal verileri AI ajanları tarafından erişilebilir yapılandırılmış bir katmana dönüştüren Nexus bilgi motorunu yayınladı. Erken benimseyenler, özellikle hukuk ve finans alanlarında RAG sistemlerine kıyasla önemli doğruluk kazanımları ve belirteç maliyetlerinde 1/9 ila 1/15 oranında azalma bildiriyor.
Pinecone Nexus artık AI ajanları için bir bilgi motoru olarak genel kullanıma sunuldu; kurumsal verileri, ajanlar tarafından doğrudan sorgulanabilir yapılandırılmış bir katmana dönüştürüyor. Ekipler iş bağlamını bir kez alıp düzenliyor ve ardından verileri ajanlar arasında yeniden kullanarak doğruluğu artırırken token maliyetlerini düşürüyor. Pinecone, LLM'lerin (Büyük Dil Modelleri) genel bilgiyi iyi yönettiğini ve vektör veritabanlarının belirli bilgileri bulduğunu ancak kurumların sözleşmeler, bilgi tabanları, İK belgeleri, toplantı notları, destek talepleri ve finansal kayıtlara dağılmış iş bağlamına güvendiğini savunuyor. Ajanların her seferinde arama yapması verimsiz olup daha yüksek token maliyetlerine ve yavaş yanıtlara neden oluyor. Nexus, dağıtık bilgiyi yapılandırılmış bir katmana entegre ederek token tüketimini sorgu başına getirmeden bir kerelik veri alımına kaydırıyor. Hukuk ve finansal hizmetlerdeki ilk kullanıcılar önemli iyileştirmeler gördü: hukuk görevlerinde Nexus tüm atanan görevleri tamamlarken, kodlama ajanları %6 ve RAG (Getirmeyle Artırılmış Üretim) sistemleri %66 başarı elde etti. RAG, doktrin sentezi, çapraz vaka muhakemesi ve birden fazla kaynağı entegre etmeyi gerektiren kapsam sorularında zorlandı. Token tüketimi yaklaşık 1/9 ila 1/15'e düştü. Kurumsal veri yönetiminde Nexus, %90 doğruluk elde ederken RAG %65'te kaldı ve belge başına maliyeti 0,0038 dolar oldu. Nexus, en üst düzey kapsayıcılar olarak Çalışma Alanları (Workspaces), belirli veri kümeleri için Bağlamlar (Contexts), veri alım kuralları için Bildirimler (Manifests) kullanır ve alan uzmanları planlar (blueprints) aracılığıyla bilgiyi gömebilir. Veri alımı yerel dosyaları, Box'ı ve Microsoft OneLake'i destekler; Google Drive, Slack, GitHub, Notion, Confluence ve S3 yakında eklenecek. Sorgular, ajanlar, sohbet robotları ve öneri sistemleri tarafından kullanılabilen KnowQL kullanır. Nexus, bir önizleme deneyimi ve katı veri yerleşimi ve uyumluluk için BYOC (Kendi Bulutunu Getir) dağıtım seçeneği sunar. Rakipler arasında Cognite, RationalAI ve LlamaIndex bulunuyor.
Kaynak: InfoQ 中国 —
orijinal