四台Mac Studio组成集群，内存达1.5 TB——启动了一张显卡装不下的AI

苹果为作者提供了一组四台Mac Studio电脑，用于测试macOS 26.2中通过雷雳5实现的RDMA新功能。这些机器通过Exo 1.0（一个用于在局域网内分配AI任务的开源工具）连接。该集群的总统一内存为1.5 TB，价值约4万美元，但由苹果借出。作者将Mac Studio中的M3 Ultra芯片与英伟达DGX Spark和AMD AI Max+ 395等竞品进行了比较，结果显示其在Geekbench、FP64 HPL和推理任务中性能更优。该集群在HPL测试中达到了3.7万亿次浮点运算，尽管节点间内存不均衡，但扩展性良好。借助Exo和RDMA，作者成功运行了Kimi K2 Thinking（超过600 GB）和DeepSeek V3.1等大型模型，使用Qwen3 235B时达到了每秒32个令牌。作者指出，虽然该集群性能强大，但管理macOS集群比Linux更繁琐，且存在线缆管理问题以及缺乏雷雳5交换机。整个系统功耗低于250瓦，运行安静。