أوبن إيه آي توقف تطوير نموذج أسترا للذكاء الاصطناعي — فقد أثبت أنه قادر للغاية

أعلنت شركة OpenAI أنها أوقفت تطوير نموذج الذكاء الاصطناعي الجديد "أسترا" لأنه لا يفي بعد بمعايير السلامة الجديدة التي توشك الشركة على تنفيذها. وجاء هذا الإعلان بعد حادثة تتعلق بمنصة "هاغينغ فيس"، والتي تم اختراقها بواسطة أحد نماذج OpenAI. وفقًا لشركة OpenAI، تشير التقييمات الداخلية الأخيرة لنموذج "أسترا" خلال الأيام القليلة الماضية إلى تقدم ملحوظ في البرمجة الوكيلة والأمن السيبراني. هذه النتائج، إلى جانب تقييمات الخبراء، قادت الشركة إلى استنتاج أنها لا تستطيع استبعاد قدرات حرجة في مجال الأمن السيبراني ضمن إطار الاستعداد الخاص بها. إطار الاستعداد هو منهجية OpenAI الداخلية لتتبع وتقييم وإدارة المخاطر المرتبطة بقدرات الذكاء الاصطناعي المتقدمة. بموجب هذا الإطار، يصل نموذج الذكاء الاصطناعي إلى عتبة حرجة في الأمن السيبراني إذا كان قادرًا على تحديد وتطوير ثغرات يوم-الصفر الوظيفية بجميع مستويات الخطورة في العديد من الأنظمة الحرجة الحقيقية المحمية دون تدخل بشري، أو إذا كان قادرًا على تطوير وتنفيذ استراتيجيات هجوم سيبراني معقدة جديدة ضد أهداف محمية، بشرط تقديم وصف عالي المستوى للهدف المنشود فقط. وفقًا لشركة OpenAI، لم يشارك نموذج "أسترا" في اختراق "هاغينغ فيس". وتخطط الشركة لتنفيذ إجراءات سلامة أكثر صرامة للنماذج ذات القدرات الأعلى والأنشطة ذات الصلة، كما قدمت مراقبة شاملة للإجراءات المحتملة الخطورة والتناقضات عبر جميع التطبيقات الوكيلة لنموذج "أسترا".