4台のMac Studioをクラスタ化し1.5TBのメモリを実現――1枚のGPUに収まらないAIを起動

Appleは、macOS 26.2の新機能であるThunderbolt 5経由のRDMAをテストするため、執筆者に4台のMac Studioコンピュータのクラスタを提供した。これらのマシンは、ローカルネットワーク上でAIタスクを分散するオープンソースツールのExo 1.0を使用して接続された。クラスタの総ユニファイドメモリは1.5TBで、価格は約4万ドルだが、Appleから貸与されたものである。執筆者はMac StudioのM3 UltraチップをNvidia DGX SparkやAMD AI Max+ 395などの競合製品と比較し、Geekbench、FP64 HPL、推論タスクで優れた性能を示した。クラスタはHPLで3.7テラフロップスを達成し、ノード間のメモリ不均衡にもかかわらず良好にスケーリングした。RDMAを備えたExoを使用して、執筆者はKimi K2 Thinking（600GB以上）やDeepSeek V3.1のような大規模モデルを実行することに成功し、Qwen3 235Bで毎秒最大32トークンを達成した。執筆者は、クラスタは強力であるものの、macOSクラスタの管理はLinuxよりも煩雑であり、ケーブル管理やThunderbolt 5スイッチの不足といった課題があると指摘した。システム全体の消費電力は250ワット未満で、静かに動作する。