OneAdvanced تنشر أكثر من 50 وكيل ذكاء اصطناعي على AWS السيادية في المملكة المتحدة
Meta
قامت OneAdvanced، مزوّد برمجيات المؤسسات ومقرها المملكة المتحدة، بنشر أكثر من 50 وكيل ذكاء اصطناعي على بنية AWS السيادية في المملكة المتحدة، مع استضافة ذاتية لكل من Llama 4 Maverick وLlama Guard 4 على Amazon SageMaker AI لضمان خصوصية البيانات. يستخدم الحل مسار توليد معزز بالاسترجاع (RAG) مع pgvector، و Strands Agents SDK، ويعمل على Amazon ECS.
حققت شركة OneAdvanced، وهي مزود برمجيات مؤسسية مقرها المملكة المتحدة وتخدم أكثر من 10,000 عميل، نجاحًا في تقديم قدرات الذكاء الاصطناعي مع ضمان عدم مغادرة أي بيانات للمملكة المتحدة. نظرًا لأن النماذج المحددة التي أرادتها، وهي Llama 4 Maverick و Llama Guard 4، لم تكن متاحة بعد عبر الخدمات المُدارة من AWS في منطقة المملكة المتحدة، فقد قامت باستضافة النماذج مفتوحة الوزن ذاتيًا على البنية التحتية لـ AWS التي تتحكم فيها بالكامل. تتضمن البنية Llama 4 Maverick و Llama Guard 4 المُقدَّمين عبر vLLM على نقاط نهاية Amazon SageMaker AI، والتي تعمل على مثيلات p5.48xlarge في منطقة لندن (eu-west-2). يعمل أكثر من 50 وكيلًا من وكلاء Strands على Amazon ECS، ولكل وكيل موجه نظام وإعدادات أدوات خاصة به، مع تخزين إعدادات الوكلاء في Amazon DynamoDB. يتم تحويل المستندات المرفوعة إلى Amazon S3 إلى تنسيق markdown، وتقسيمها، وتضمينها في pgvector للاسترجاع. يتحقق Llama Guard 4 من محتوى مدخلات المستخدم بحثًا عن المحتوى الضار قبل وصول الطلب إلى النموذج الرئيسي. انتقلت OneAdvanced من النموذج الأولي إلى الإنتاج، ونشرت أكثر من 50 وكيلًا في ثلاثة أسابيع، وحصلت على شهادة ISO 42001 لحوكمة الذكاء الاصطناعي.
المصدر: AWS ML blog —
الأصلي