Couchbase a construit une architecture IA multi-modèle pour Capella iQ avec Amazon Bedrock

Couchbase a adopté Amazon Bedrock pour alimenter son assistant IA Capella iQ, avec Claude Sonnet 4.5 d'Anthropic comme modèle initial en production. L'architecture est hébergée sur Amazon EKS dans deux régions AWS (us-east-1 et us-west-2) pour une haute disponibilité, avec un point de terminaison d'interface VPC assurant une connectivité privée à Bedrock. L'inférence inter-régions achemine automatiquement les requêtes vers la région américaine optimale pour le basculement et la répartition de charge. L'équipe a évalué plusieurs modèles sur des benchmarks couvrant la génération SQL++, les recommandations d'index, les explications de requêtes et les conversations multi-tours, où Claude Sonnet 4.5 a atteint environ 76 % de précision. La conception indépendante du fournisseur permet de changer de modèle via la configuration, sans modification de code. Les projets futurs incluent l'optimisation des coûts via des modèles plus petits affinés à l'aide de l'import de modèles personnalisés de Bedrock. Les principaux défis comprenaient les tests de basculement inter-régions et la normalisation des benchmarks des modèles.