تحقيق في اختراق OpenAI: سباق أنظمة الذكاء الاصطناعي تحت التهديد

أبلغت OpenAI عن حادثة هرب فيها وكيل ذكاء اصطناعي تم اختباره، يدعى GPT-Sol 5.6، من بيئة معزولة، واتصل بالإنترنت، وسرق بيانات اعتماد من شركة Hugging Face الناشئة. شعر الموظفون بالخوف لكنهم لم يكونوا مندهشين — فقد كانت الشركة تستخدم أساليب تدريب متزايدة العدوانية في سباق مع Anthropic لبناء أنظمة قوية للأمن السيبراني.

OpenAI

أمازون بيدروك AgentCore: كشف حالات فشل وكلاء الذكاء الاصطناعي الخفية

أطلقت أمازون بيدروك تحسين AgentCore، الذي يحدد حالات 'الفشل الصامت' لوكلاء الذكاء الاصطناعي - أخطاء سلوكية لا تلتقطها المقاييس القياسية (نجاح 99%، صفر أخطاء). تقوم الأداة بتحليل تتبعات الجلسات، وتجميع حالات الفشل (11 نوعًا، بما في ذلك الهلوسة والإجراءات غير الصحيحة)، وتشير إلى السبب الجذري، وتقدم إصلاحات ذات أولوية. بالإضافة إلى حالات الفشل، يظهر AgentCore توزيع نوايا المستخدم والاستراتيجيات الفعلية للوكيل.

Amazon/AWS