أربع وحدات Mac Studio مجمعة بذاكرة 1.5 تيرابايت تشغل ذكاءً اصطناعياً لا يتسع لبطاقة رسوميات واحدة
Apple
NVIDIA
Exo
Moonshot AI
DeepSeek
Alibaba/Qwen
قام صحفي بجمع أربع وحدات Mac Studio مع M3 Ultra في مجموعة بذاكرة إجمالية 1.5 تيرابايت باستخدام تقنية RDMA عبر Thunderbolt 5. المجموعة قامت بتشغيل نماذج ضخمة للذكاء الاصطناعي مثل Kimi K2 Thinking (أكثر من 600 جيجابايت)، والتي لا يمكن تحميلها على جهاز واحد. تم تنفيذ المشروع باستخدام الأداة مفتوحة المصدر Exo 1.0.
شركة Apple أتاحت للمؤلف أربعة أجهزة Mac Studio مزودة بمعالج M3 Ultra لاختبار تقنية RDMA (Remote Direct Memory Access) عبر Thunderbolt، وهي ميزة جديدة في نظام التشغيل macOS 26.2 تسمح بدمج ذاكرة الوصول العشوائي لأجهزة كمبيوتر متعددة في تجمع واحد. بلغ إجمالي سعة الذاكرة الموحدة للمجموعة 1.5 تيرابايت، وبلغت تكلفة هذه المجموعة حوالي 40,000 دولار (كانت الأجهزة مستعارة للاختبار). تم استخدام أداة Exo 1.0 لتوزيع المهام. بفضل تقنية RDMA، انخفض زمن الوصول عند الوصول إلى الذاكرة من 300 ميكروثانية إلى أقل من 50 ميكروثانية. يستهلك المجموعة أقل من 250 واط ويعمل بصمت تقريباً. يحتوي جهازا Mac Studio السفليان على ذاكرة سعة 512 جيجابايت و32 نواة معالجة (بسعر 11,699 دولار لكل منهما)، بينما يحتوي الجهازان العلويان على نصف سعة الذاكرة (بسعر 8,099 دولار لكل منهما). في اختبار HPL، حقق جهاز Mac Studio واحد أداء 1.3 تيرافلوب، بينما حققت المجموعة المكونة من أربعة أجهزة أداء 3.7 تيرافلوب. لتفعيل تقنية RDMA، كان مطلوباً إدخال أمر يدوياً في وضع الاسترداد. سمحت المجموعة بتشغيل نماذج يزيد وزنها عن 600 جيجابايت، مثل نموذج Kimi K2 Thinking. بلغ الأداء في اختبار الأداء Qwen3 235B حوالي 32 رمزاً في الثانية على المجموعة بأكملها.
المصدر: Habr — хаб ML —
الأصلي
