Couchbase baute eine Multi-Modell-KI-Architektur für Capella iQ mit Amazon Bedrock
Couchbase
Anthropic
Amazon Web Services
Couchbase hat für seinen Entwicklerassistenten Capella iQ eine Multi-Modell-KI-Architektur mit Amazon Bedrock aufgebaut, die das Modell Claude Sonnet 4.5 von Anthropic integriert. Die Architektur unterstützt mehrere Foundation-Modell-Anbieter, regionsübergreifendes Failover und erreicht eine Genauigkeit von etwa 76 % bei internen Benchmarks. Sie ist auf zwei AWS-Regionen für hohe Verfügbarkeit verteilt.
Couchbase hat Amazon Bedrock eingeführt, um seinen KI-Assistenten Capella iQ zu betreiben, wobei Anthropics Claude Sonnet 4.5 als erstes Produktionsmodell zum Einsatz kommt. Die Architektur wird für Hochverfügbarkeit auf Amazon EKS in zwei AWS-Regionen (us-east-1 und us-west-2) gehostet, wobei ein VPC-Schnittstellenendpunkt eine private Verbindung zu Bedrock ermöglicht. Das Cross-Region Inference leitet Anfragen automatisch an die optimale US-Region für Failover und Lastverteilung weiter. Das Team bewertete mehrere Modelle anhand von Benchmarks, die die Generierung von SQL++-Code, Indexempfehlungen, Abfrageerklärungen und mehrstufige Konversationen umfassen; Claude Sonnet 4.5 erreichte dabei eine Genauigkeit von etwa 76 %. Das anbieterunabhängige Design ermöglicht Modellwechsel über Konfiguration ohne Codeänderungen. Zukünftige Pläne umfassen die Kostenoptimierung durch feinabgestimmte kleinere Modelle mithilfe von Bedrocks Custom Model Import. Zu den wichtigsten Herausforderungen gehörten das Testen des regionsübergreifenden Failovers und die Normalisierung der Modell-Benchmarks.
Quelle: AWS ML blog —
Original