Couchbase rakensi monimallisen tekoälyarkkitehtuurin Capella iQ:lle Amazon Bedrockin avulla

Couchbase on ottanut käyttöön Amazon Bedrockin Capella iQ -tekoälyassistenttinsa taustajärjestelmänä ja käyttää Anthropicin Claude Sonnet 4.5 -mallia ensimmäisenä tuotantomallina. Arkkitehtuuri on toteutettu Amazon EKS -palvelulla kahdessa AWS-alueessa (us-east-1 ja us-west-2) korkean käytettävyyden takaamiseksi, ja VPC-rajapintapäätepiste tarjoaa yksityisen yhteyden Bedrockiin. Alueiden välinen päätely reitittää automaattisesti pyynnöt optimaaliselle Yhdysvaltain alueelle vikasietoisuuden ja kuormituksen jakamisen varmistamiseksi. Tiimi arvioi useita malleja SQL++-generointia, indeksisuosituksia, kyselyselityksiä ja monivaiheisia keskusteluja kattavilla vertailuarvoilla, ja Claude Sonnet 4.5 saavutti noin 76 prosentin tarkkuuden. Toimittajariippumaton suunnittelu mahdollistaa mallinvaihdot konfiguraation kautta ilman koodimuutoksia. Tulevaisuuden suunnitelmiin kuuluu kustannusten optimointi hienosäädettyjen pienempien mallien avulla Bedrockin Custom Model Import -toiminnon kautta. Keskeisiä haasteita olivat alueiden välinen vikasietotestaus ja mallien vertailuarvojen normalisointi.