Couchbase, Capella iQ için Amazon Bedrock ile çok modelli bir yapay zeka mimarisi kurdu

Couchbase, Capella iQ yapay zeka asistanını güçlendirmek için Amazon Bedrock'u benimsedi ve ilk üretim modeli olarak Anthropic'in Claude Sonnet 4.5'ini kullandı. Mimari, yüksek kullanılabilirlik için iki AWS Bölgesinde (us-east-1 ve us-west-2) Amazon EKS üzerinde barındırılıyor ve Bedrock'a özel bağlantı sağlayan bir VPC arayüz uç noktası kullanılıyor. Bölgeler Arası Çıkarım, hata devretme ve yük dağıtımı için istekleri otomatik olarak en uygun ABD Bölgesine yönlendiriyor. Ekip, SQL++ üretimi, indeks önerileri, sorgu açıklamaları ve çok turlu sohbetler kapsayan kıyaslamalarda birden fazla modeli değerlendirdi ve Claude Sonnet 4.5 yaklaşık %76 doğruluk elde etti. Sağlayıcıdan bağımsız tasarım, kod değişikliği olmadan yapılandırma yoluyla model değişikliklerine olanak tanıyor. Gelecek planları arasında Bedrock'un Özel Model İçe Aktarma özelliğini kullanarak ince ayarlanmış daha küçük modellerle maliyet optimizasyonu yer alıyor. Temel zorluklar arasında bölgeler arası hata devretme testi ve model kıyaslama normalizasyonu bulunuyor.