Donanım ve Çıkarım 🇷🇺 24.07.2026 04:03

Dört Mac Studio bir araya getirilerek 1,5 TB belleğe sahip bir küme oluşturuldu – tek bir grafik kartına sığmayan bir yapay zeka çalıştırıldı

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Yazar, Apple tarafından sağlanan 1,5 TB birleşik belleğe sahip dört Mac Studio bilgisayardan oluşan bir küme oluşturdu. Küme, Exo 1.0 ve Thunderbolt 5 üzerinden RDMA kullanarak HPL'de 3,7 teraflop performans elde etti ve Kimi K2 Thinking (600+ GB) ve DeepSeek V3.1 gibi büyük yapay zeka modellerini başarıyla çalıştırdı. Bu durum, ağır yapay zeka iş yükleri için birleşik belleğin avantajlarını gözler önüne seriyor.
Apple, yazarın testleri için Thunderbolt 5 üzerinden RDMA'yı (Uzaktan Doğrudan Bellek Erişimi) destekleyen macOS 26.2'deki yeni bir özelliği denemesi amacıyla dört adet Mac Studio bilgisayardan oluşan bir küme sağladı. Bilgisayarlar, yapay zeka görevlerini yerel ağlar üzerinde dağıtmak için açık kaynaklı bir araç olan Exo 1.0 kullanılarak birbirine bağlandı. Kümenin toplam birleşik belleği 1.5 TB olup yaklaşık 40.000 dolar değerinde, ancak Apple tarafından ödünç verildi. Yazar, Mac Studio'daki M3 Ultra yongasını Nvidia DGX Spark ve AMD AI Max+ 395 gibi rakiplerle karşılaştırarak Geekbench, FP64 HPL (Yüksek Performanslı Linpack) ve çıkarım görevlerinde üstün performans gösterdiğini belirtti. Küme, düğümler arasındaki bellek dengesizliğine rağmen HPL'de 3.7 teraflop elde ederek iyi ölçeklendi. Yazar, RDMA ile Exo kullanarak Kimi K2 Thinking (600+ GB) ve DeepSeek V3.1 gibi devasa modelleri başarıyla çalıştırdı ve Qwen3 235B ile saniyede 32 token'e kadar ulaştı. Yazar, kümenin güçlü olmasına rağmen macOS kümelerini yönetmenin Linux'tan daha zahmetli olduğunu ve kablo yönetimi ile Thunderbolt 5 anahtarlarının eksikliği gibi zorluklar bulunduğunu belirtti. Tüm sistem 250 watt'tan az güç tüketiyor ve sessiz çalışıyor.
Kaynak: Habr — хаб ML — orijinal
Bu konudaki önceki yazılarımız ↓
Güncel haberler