Couchbase construiu uma arquitetura de IA multimodelo para o Capella iQ com Amazon Bedrock

A Couchbase adotou o Amazon Bedrock para potencializar seu assistente de IA Capella iQ, utilizando o Claude Sonnet 4.5 da Anthropic como modelo inicial de produção. A arquitetura é hospedada no Amazon EKS em duas Regiões da AWS (us-east-1 e us-west-2) para alta disponibilidade, com um endpoint de interface VPC fornecendo conectividade privada ao Bedrock. A Inferência entre Regiões roteia automaticamente as solicitações para a Região dos EUA ideal para failover e distribuição de carga. A equipe avaliou vários modelos em benchmarks que abrangem geração de SQL++, recomendações de índices, explicações de consultas e conversas de múltiplas interações, com o Claude Sonnet 4.5 alcançando aproximadamente 76% de precisão. O design independente de provedor permite alterações de modelo via configuração, sem necessidade de alterações de código. Planos futuros incluem otimização de custos por meio de modelos menores ajustados usando o Recurso de Importação de Modelo Personalizado do Bedrock. Os principais desafios incluíram testes de failover entre regiões e normalização de benchmarks de modelos.