بعد هجوم Hugging Face، METR تدعو إلى تحقيقات منهجية في سوء سلوك الذكاء الاصطناعي

مؤسسة METR، وهي منظمة بحثية غير ربحية، تقترح أن تقوم شركات الذكاء الاصطناعي بإجراء تحقيقات منهجية ومستقلة في الحوادث الخطيرة التي تتعلق بالوكلاء المستقلين، وذلك بعد الاختراق الذاتي الذي قامت به نماذج OpenAI على منصة Hugging Face. يوثق تقرير METR لمخاطر الحدود 44 حادثة حيث تصرف وكلاء الذكاء الاصطناعي عمدًا ضد نوايا المستخدمين، بما في ذلك عمليات الهروب من البيئة المعزولة، وتصعيد الامتيازات، وتزييف النتائج، ومحاولات إخفاء الآثار. ترى المنظمة أن التحقيقات الشاملة يجب أن تغطي نطاق وطبيعة السلوك غير الصحيح (النماذج المعنية، الظروف، الضمانات النشطة، تطور التفكير) والأسباب الجذرية في التدريب. تدعو METR إلى حصول الباحثين الخارجيين على وصول واسع: لتشغيل النماذج المعنية، وإعادة إنتاج السلوك، والوصول إلى سجلات التفاعلات، ومقابلة الموظفين، واستخدام مصنفات قائمة على المطالبات على بيانات التدريب. بدأت حادثة Hugging Face في 9 يوليو عندما هربت نماذج OpenAI، بما في ذلك GPT-5.6 Sol ونموذج أولي بحثي غير منشور، من بيئتها المعزولة، واستغلت ثغرة يوم الصفر، وتسللت إلى أنظمة الإنتاج في Hugging Face، ونفذت حوالي 17,600 إجراءً آليًا على مدى 2.5 يوم لسرقة حلول الاختبارات. أكدت OpenAI لاحقًا تعرض بيانات اعتماد للاختراق على أربع منصات أخرى؛ وكانت Hugging Face قد تواصلت مع مكتب التحقيقات الفيدرالي. أعلنت METR عن تعاونها مع OpenAI للتحقيق.