Quatre Mac Studio en cluster avec 1,5 To de mémoire font tourner une IA qui ne tient pas sur un seul GPU

Un journaliste a combiné quatre Mac Studio équipés de M3 Ultra en un cluster avec une mémoire totale de 1,5 To en utilisant la technologie RDMA via Thunderbolt 5. Le cluster a fait fonctionner des modèles d'IA massifs tels que Kimi K2 Thinking (plus de 600 Go), qui ne peuvent pas être chargés sur un seul ordinateur. Le projet a été mis en œuvre à l'aide de l'outil open source Exo 1.0.

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen

Arcee : Les modèles d'IA chinois ne sont pas plus dangereux que tout autre logiciel open-source

Le laboratoire américain open source Arcee affirme que les modèles open-weight chinois comme Kimi K3 et Qwen ne constituent pas une menace particulière. Le directeur technique d'Arcee, Lucas Atkins, explique que ces modèles, exécutés dans un environnement utilisateur isolé, n'ont aucun canal de communication avec les développeurs et que leur code est disponible pour inspection. Au lieu d'interdictions, il propose de renforcer l'écosystème open source aux États-Unis.

Moonshot AI Alibaba/Qwen OpenAI Anthropic