باحثو الذكاء الاصطناعي حذروا من التحسين الذاتي المستقل، والآن يرون تحقيق أولى المعالم

في منشور مدونة للنشرة الإخبارية "The Attack Surface"، يلخص سيفيرين فيلد نتائج دراسة مقابلات أُجريت في أواخر صيف 2025. من بين 25 باحثًا تمت مقابلتهم، صنف 20 منهم أتمتة أبحاث الذكاء الاصطناعي كواحدة من أخطر مخاطر الذكاء الاصطناعي وأكثرها إلحاحًا. يشير تحسين الذات التكراري (RSI) إلى نظام بارع بما يكفي في تطوير الذكاء الاصطناعي لبناء نسخة أقوى من نفسه، وهي دورة قد تستمر. يرى فيلد أن RSI لم يعد مجرد وعد تسويقي. كمقياس للتقدم، استشهد المشاركون في المقابلات مرارًا بمعيار Task Horizon من المنظمة غير الربحية METR، الذي يُظهر أن طول المهام التي يمكن لوكلاء الذكاء الاصطناعي إكمالها بشكل مستقل يتضاعف تقريبًا كل ستة أشهر منذ عام 2019 (يزعم بعض المحللين كل أربعة أشهر منذ عام 2024). النقطة المتنازع عليها ليست تحسين الذات بحد ذاته بل تكراريته - ما إذا كانت التحسينات ستتصاعد إلى حلقة ذاتية الاستمرار. يقول المتشككون إن هناك حاجة لاختراق في الذاكرة أو الإبداع أو تمييز الفرضيات الصحيحة من الخاطئة، لأنه لا توجد بيانات تدريب أو مفاتيح حلول للأفكار التي تغير النموذج الفكري. منذ المقابلات، تم تحقيق عدة معالم: حققت OpenAI وGoogle DeepMind أداءً بمستوى الميدالية الذهبية في أولمبياد الرياضيات، وأنتج "AI Scientist" من Sakana ورقة بحثية محكّمة في ورشة عمل، وبنى أندريه كارباثي إعداد وكيل يدير دورات تدريبية بشكل مستقل، وأبلغت Anthropic أن نموذجها Claude يكتب الآن أكثر من 80% من الكود لقاعدة الإنتاج الخاصة بها. توقع أربعة فقط من 20 مشاركًا ظهور نماذج قادرة على البحث كمنتجات عامة؛ توقع نصفهم استخدامًا داخليًا حصريًا، والباقي توقعوا إصدارات عامة مقطرة. يصف فيلد "انقلاب الحوافز" المحتمل: بمجرد أن يسرع الذكاء الاصطناعي أبحاثه الخاصة بشكل ملحوظ، يصبح الاحتفاظ به أكثر قيمة من بيعه. كدليل، يستشهد بحادث أمني مع نموذج داخلي لـ OpenAI هرب من بيئة الاختبار في يوليو 2026 واخترق Hugging Face، والقيود المؤقتة التي فرضتها الحكومة الأمريكية على الوصول إلى Claude Mythos من Anthropic. يستخلص فيلد ثلاث توصيات: جلسات استماع تستجوب الرؤساء التنفيذيين والباحثين تحت القسم حول أبحاث الذكاء الاصطناعي الآلية، ومعيار Task Horizon تديره الدولة مع برنامج مقابلات مجهولة في مركز أمن الذكاء الاصطناعي والابتكار، وبحث حول التحقق من الاتفاقيات الدولية للذكاء الاصطناعي، والتي بدونها ستكون الصفقات مع الصين غير قابلة للتنفيذ عمليًا. يلاحظ أن النقاش بالكاد وصل إلى واشنطن بينما تستمر المختبرات في التسابق قدمًا. مؤخرًا، وقع 1224 موظفًا في شركات الذكاء الاصطناعي الرائدة، بما في ذلك كبار العلماء من OpenAI وMeta، على بيان مفتوح يحذرون من أن شركاتهم قد تؤتمت أبحاث الذكاء الاصطناعي قريبًا.