2.8 تريليون معلمة ليست النهاية: النموذج المحلي Kimi K4 يهدف إلى نطاق هائل، وأصبحت وحدات معالجة الرسوميات (GPUs) عائقًا

أعلنت شركة Moonshot AI، الشركة الناشئة الصينية التي تقف وراء سلسلة Kimi K، عن إطلاق أحدث نموذج لها، Kimi K4، مدعية أنه يمتلك 2.8 تريليون معلمة. وهذا يجعله واحدًا من أكبر النماذج الكثيفة المبلغ عنها. وأشارت الشركة إلى أن هذا ليس الحد الأقصى، بل تخطط لمواصلة توسيع حجم النموذج. ومع ذلك، أرجعت ذلك إلى توفر وحدات معالجة رسوميات عالية الأداء كعامل رئيسي يحد من المزيد من التوسع. تم تدريب النموذج الحالي باستخدام آلاف من وحدات معالجة الرسوميات NVIDIA H800، ويعد الحصول على أجهزة أكثر تطورًا تحديًا بسبب قيود التصدير وضغوط العرض المحلي.