OneAdvancedが英国主権AWS上に50以上のAIエージェントを展開

OneAdvancedは、英国を拠点とするエンタープライズソフトウェアプロバイダーであり、1万以上の顧客にサービスを提供しています。同社は、データが英国外に出ることなくAI機能を提供する必要がありました。希望する特定のモデル、Llama 4 MaverickとLlama Guard 4が、当時英国リージョンのAWSマネージドサービスでは利用できなかったため、完全に自社で制御するAWSインフラストラクチャ上でオープンウェイトのLLMをセルフホスティングしました。このアーキテクチャには、ロンドン（eu-west-2）リージョンのp5.48xlargeインスタンス上で実行されるAmazon SageMaker AIエンドポイントでvLLMを介して提供されるLlama 4 MaverickとLlama Guard 4が含まれています。50を超えるStrandsエージェントがAmazon ECS上で実行され、それぞれに独自のシステムプロンプトとツール構成があり、エージェント構成はAmazon DynamoDBに保存されています。Amazon S3にアップロードされたドキュメントはマークダウンに変換され、チャンク化され、取得のためにpgvectorに埋め込まれます。Llama Guard 4は、リクエストがメインモデルに到達する前に、ユーザー入力を有害なコンテンツがないかチェックします。OneAdvancedはプロトタイプから本番環境に移行し、3週間で50以上のエージェントをデプロイし、AIガバナンスについてISO 42001認証を取得しました。