四台配备1.5TB内存的Mac Studio集群运行单GPU无法容纳的AI模型

一名记者将四台配备M3 Ultra的Mac Studio通过雷雳5接口的RDMA技术组成集群，总内存达1.5TB。该集群运行了如Kimi K2 Thinking（超过600GB）等无法在单台计算机上加载的大型AI模型。项目使用开源工具Exo 1.0实现。

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen