xAI — أخبار ونماذج الذكاء الاصطناعي

ماسك: بيانات مهندسي سبيس إكس ستدرب النسخة التالية من جروك بـ 2 تريليون معلمة

أعلن إيلون ماسك أن البيانات الهندسية من سبيس إكس ستُستخدم لتدريب نموذج جروك التالي، الذي سيحتوي على 2 تريليون معلمة. ظهر الخبر على موقع BASENOR المخصص لإكسسوارات تسلا.

xAI

SpaceX

xAI Grok (GNews)27.07 · 20:04

الأبحاث 🇺🇸

ما وراء النماذج اللغوية الكبيرة القياسية: مزيج الانتباه الخطي، نماذج نشر النص، نماذج عالم الكود، والمحولات المتكررة الصغيرة

يستكشف المقال بدائل للنماذج اللغوية الكبيرة القياسية القائمة على المحولات ذاتية التغذية الراجعة: مزيج الانتباه الخطي (MiniMax-M1، Qwen3-Next، DeepSeek V3.2، Kimi Linear)، نماذج نشر النص، نماذج عالم الكود، والمحولات المتكررة الصغيرة. يلاحظ المؤلف عودة إلى الانتباه الكلاسيكي في MiniMax-M2 وتعقيد الانتباه الخطي في الإنتاج.