OneAdvanced despliega más de 50 agentes de IA en AWS soberano del Reino Unido
Meta
OneAdvanced, un proveedor británico de software empresarial, ha desplegado más de 50 agentes de inteligencia artificial en una arquitectura AWS soberana del Reino Unido, autoalojando Llama 4 Maverick y Llama Guard 4 en Amazon SageMaker AI para garantizar la residencia de los datos. La solución utiliza un pipeline de generación aumentada por recuperación (RAG, por sus siglas en inglés) con pgvector, el SDK de Strands Agents, y se ejecuta en Amazon ECS.
OneAdvanced, un proveedor de software empresarial con sede en el Reino Unido que atiende a más de 10 000 clientes, necesitaba ofrecer capacidades de IA garantizando que ningún dato saliera del país. Dado que los modelos específicos que deseaban, Llama 4 Maverick y Llama Guard 4, aún no estaban disponibles a través de los servicios gestionados de AWS en la región del Reino Unido, optaron por alojar por su cuenta modelos de lenguaje de gran tamaño de peso abierto en una infraestructura de AWS que controlan por completo. La arquitectura incluye Llama 4 Maverick y Llama Guard 4 servidos mediante vLLM en endpoints de Amazon SageMaker AI, que se ejecutan en instancias p5.48xlarge en la región de Londres (eu-west-2). Más de 50 agentes de Strands se ejecutan en Amazon ECS, cada uno con su propio mensaje del sistema y configuración de herramientas, y la configuración de los agentes se almacena en Amazon DynamoDB. Los documentos subidos a Amazon S3 se convierten a formato Markdown, se dividen en fragmentos y se incrustan en pgvector para su recuperación. Llama Guard 4 verifica las entradas de los usuarios en busca de contenido dañino antes de que la solicitud llegue al modelo principal. OneAdvanced pasó del prototipo a la producción, implementando más de 50 agentes en tres semanas, y obtuvo la certificación ISO 42001 para la gobernanza de la IA.
Fuente: AWS ML blog —
original