Couchbase bouwde een multimodel AI-architectuur voor Capella iQ met Amazon Bedrock

In de AWS ML-blog wordt beschreven hoe Couchbase een multimodale AI-architectuur heeft gebouwd voor Capella iQ, een AI-assistent voor ontwikkelaars die databasequery's genereert, indices aanbeveelt en multi-threaded dialogen ondersteunt. De architectuur is geïmplementeerd in twee AWS-regio's (us-east-1 en us-west-2) met behulp van Amazon EKS, en modelaanroepen worden uitgevoerd via Amazon Bedrock. Verzoeken van ontwikkelaars worden verwerkt door de microservices cp-api, cp-internal-api en cp-ns, die de routering en modelconfiguraties bepalen. Al het verkeer loopt via een VPC-interface, zonder het openbare internet te bereiken. Cross-Region Inference stuurt aanvragen automatisch door tussen Amerikaanse regio's bij storingen of piekbelasting. Voor de modelselectie voerde Couchbase een benchmark uit volgens een BIRD-achtige methodologie: Claude Sonnet 4.5 behaalde een nauwkeurigheid van ongeveer 76% en werd gekozen als primair model. Amazon Bedrock maakte de architectuur provider-onafhankelijk: het wisselen van model vereist alleen een configuratiewijziging, zonder code-aanpassingen. In de toekomst wil Couchbase Custom Model Import (Bedrock Custom Model Import) gebruiken om de kosten voor veelgebruikte taken te optimaliseren.