Couchbase construyó una arquitectura de IA multimodelo para Capella iQ con Amazon Bedrock

Couchbase ha adoptado Amazon Bedrock para potenciar su asistente de IA Capella iQ, utilizando Claude Sonnet 4.5 de Anthropic como modelo de producción inicial. La arquitectura está alojada en Amazon EKS en dos regiones de AWS (us-east-1 y us-west-2) para alta disponibilidad, con un endpoint de interfaz de VPC que proporciona conectividad privada a Bedrock. La inferencia entre regiones enruta automáticamente las solicitudes a la región de EE. UU. óptima para la conmutación por error y la distribución de carga. El equipo evaluó múltiples modelos en pruebas comparativas que abarcan generación de SQL++, recomendaciones de índices, explicaciones de consultas y conversaciones de varios turnos, logrando Claude Sonnet 4.5 una precisión de aproximadamente el 76%. El diseño independiente del proveedor permite cambiar de modelo mediante configuración sin modificar el código. Los planes futuros incluyen la optimización de costos mediante modelos más pequeños ajustados con la importación de modelos personalizados de Bedrock. Los principales desafíos incluyeron las pruebas de conmutación por error entre regiones y la normalización de las evaluaciones comparativas de los modelos.