Couchbase built a multimodel AI architecture for Capella iQ with Amazon Bedrock

AWS MLのブログでは、CouchbaseがマルチモデルAIアーキテクチャを構築し、データベースクエリを生成し、インデックスを推奨し、マルチスレッドダイアログをサポートするAI開発者アシスタント「Capella iQ」を実現した方法について説明しています。このアーキテクチャは、Amazon EKSを使用してAWSの2つのリージョン（us-east-1とus-west-2）にデプロイされ、モデル推論はAmazon Bedrockを介して実行されます。開発者からのリクエストは、cp-api、cp-internal-api、cp-nsというマイクロサービスによって処理され、ルーティングとモデル設定が決定されます。すべてのトラフィックはVPCインターフェースを通り、パブリックインターネットには出ません。クロスリージョン推論（Cross-Region Inference）は、障害時や負荷ピーク時にリクエストを自動的に米国内のリージョン間でリダイレクトします。モデル選択のために、CouchbaseはBIRDに類似した方法論でベンチマークを実施し、Claude Sonnet 4.5が約76%の精度を示したため、主要モデルとして選定されました。Amazon Bedrockにより、プロバイダーに依存しないアーキテクチャが実現され、モデル変更はコード修正なしで設定変更のみで可能です。将来的には、CouchbaseはBedrockカスタムモデルインポート（Bedrock Custom Model Import）を利用して、高頻度タスクのコスト最適化を計画しています。