Couchbase baute eine multimodale KI-Architektur für Capella iQ mit Amazon Bedrock

Im AWS ML Blog wird beschrieben, wie Couchbase eine multimodale KI-Architektur für Capella iQ aufgebaut hat – einen KI-gestützten Entwicklerassistenten, der Datenbankabfragen generiert, Indizes empfiehlt und mehrsträngige Dialoge unterstützt. Die Architektur ist in zwei AWS-Regionen (us-east-1 und us-west-2) unter Verwendung von Amazon EKS deployt, und die Modellaufrufe erfolgen über Amazon Bedrock. Anfragen von Entwicklern werden von den Microservices cp-api, cp-internal-api und cp-ns verarbeitet, die die Routing- und Modellkonfigurationen bestimmen. Der gesamte Verkehr läuft über eine VPC-Schnittstelle, ohne das öffentliche Internet zu nutzen. Cross-Region Inference leitet Anfragen bei Ausfällen oder Lastspitzen automatisch zwischen den US-Regionen um. Zur Modellauswahl führte Couchbase ein Benchmarking nach einer BIRD-ähnlichen Methodik durch: Claude Sonnet 4.5 erzielte eine Genauigkeit von etwa 76 % und wurde als primäres Modell ausgewählt. Amazon Bedrock ermöglichte eine anbieterunabhängige Architektur: Ein Modellwechsel erfordert nur eine Konfigurationsänderung, ohne Code-Anpassungen. In Zukunft plant Couchbase den Import benutzerdefinierter Modelle (Bedrock Custom Model Import), um die Kosten für häufig genutzte Aufgaben zu optimieren.