Quatre Mac Studio en cluster avec 1,5 To de mémoire font tourner une IA qui ne tient pas sur un seul GPU

Un journaliste a combiné quatre Mac Studio équipés de M3 Ultra en un cluster avec une mémoire totale de 1,5 To en utilisant la technologie RDMA via Thunderbolt 5. Le cluster a fait fonctionner des modèles d'IA massifs tels que Kimi K2 Thinking (plus de 600 Go), qui ne peuvent pas être chargés sur un seul ordinateur. Le projet a été mis en œuvre à l'aide de l'outil open source Exo 1.0.

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen