من CUDA إلى MLX: كيف تجلب K-Search عقودًا من خبرة النواة إلى Apple Silicon

باحثون من مختبر UC Berkeley Sky Lab قاموا بالبناء على K-Search، وهو إطار عمل للبحث التطوري في النواة الحاسوبية يستخدم الذكاء الاصطناعي لتحسين نوى معالجة الرسوميات GPU، وقاموا بتوسيعه مع خلفية لإطار عمل MLX الخاص بشركة Apple. طوروا طبقة ترجمة هيكلية جديدة من CUDA إلى MLX تقوم بتحويل نوى CUDA الحالية إلى نوى عالية الجودة لمعالجات Apple Silicon. وصلت الطريقة إلى تسريع بنسبة 0.97x مقارنة بنواة الانتباه الأصلية لـ MLX، وتسريع يصل إلى 20x في مرحلة التعبئة الأولية (prefill) مقارنة بتطبيق mlx-lm المجتمعي على نواة Mamba SSM. يستخدم K-Search حلقة تحسين تكرارية حيث يقوم نموذج لغوي كبير (LLM) بالتفكير في التحسينات، ويُولّد نوى مرشحة، ويُجمّعها ويقيس أداءها على أجهزة حقيقية. تتضمن طبقة الترجمة جداول تعيين مفاهيم، وتلميحات خاصة بـ MLX، وتأكيدات قابلة لإعادة الاستخدام تحافظ على سلوكيات النواة الخبيرة. يُظهر العمل أن البحث عن النوى المدعوم بالذكاء الاصطناعي يمكنه نقل المعرفة التحسينية عبر أنظمة الأجهزة دون البدء من الصفر.