أمازون بيدروك AgentCore: كشف حالات فشل وكلاء الذكاء الاصطناعي الخفية

أعلنت Amazon Bedrock عن تحسين AgentCore، المصمم لاكتشاف الأعطال السلوكية لوكلاء الذكاء الاصطناعي التي لا تظهرها المراقبة القياسية: يُظهر النظام نجاحًا بنسبة 99%، وزمن استجابة صفريًا، وغياب الأخطاء، لكن العملاء يشكون من نتائج غير صحيحة (مثل عدم تنفيذ تعديل طلب أو تخطي خطوة موافقة). يحلل AgentCore مسارات الجلسات التي تم جمعها عبر CloudWatch، ويصنف الأعطال وفقًا لتصنيف من 11 فئة (الهلوسات، والإجراءات الخاطئة، وانتهاك التعليمات، وأخطاء التنسيق، وما إلى ذلك)، ويكشف حتى تلك التي لا تولد إشارات خطأ. يقوم النظام بتجميع الأعطال عبر مئات الجلسات، ويحدد السبب الجذري (مثل اختلاق بيانات مالية دون استدعاء أدوات)، ويصنف المجموعات حسب نسبة الجلسات المتأثرة، ليتمكن المطور من رؤية المشكلة التي تؤثر على 30% من الحركة المرورية مقابل مشكلة تؤثر على ثلاث جلسات فقط. يقوم AgentCore أيضًا بتجميع استفسارات المستخدمين (مظهرًا مقدار الحركة المرورية المخصصة للسيناريوهات المستهدفة، والمدعومة جزئيًا، وغير المتوقعة)، ويستخرج ملخصات قابلة للتنفيذ لكل جلسة، ويكشف الفجوات بين السلوك المتوقع والفعلي للوكيل. يتضمن الإعداد اختيار أنواع التحليل (الأعطال، والنوايا، والتنفيذ)، وتحديد مصدر المسارات (وكيل من AgentCore أو مباشرة من CloudWatch)، والجدولة (مرة واحدة أو منتظمة). مثال: وكيل اتجاهات السوق في 1 من كل 10 جلسات هلوس بيانات مالية دون استخدام أدوات؛ الإصلاح هو تعزيز الموجه النظامي. تحول الرؤى نموذج المراقبة من العرض التفاعلي للمسارات إلى الكشف الاستباقي عن الأنماط، مما يتيح إصلاح المشكلات الأكثر أهمية أولاً.