四台配备1.5TB内存的Mac Studio集群运行单GPU无法容纳的AI模型
一名记者将四台配备M3 Ultra的Mac Studio通过雷雳5接口的RDMA技术组成集群，总内存达1.5TB。该集群运行了如Kimi K2 Thinking（超过600GB）等无法在单台计算机上加载的大型AI模型。项目使用开源工具Exo 1.0实现。
Apple
NVIDIA
Exo
Moonshot AI
DeepSeek
Alibaba/Qwen
Habr — хаб ML24.07 · 04:03