Laitteisto ja päättely 🇷🇺 24.07.2026 04:03

Neljä Mac Studiota yhdistettiin klusteriksi, jossa on 1,5 Tt muistia – käynnisti tekoälyn, joka ei mahdu yhteen näytönohjaimeen

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Kirjoittaja rakensi klusterin neljästä Mac Studio -tietokoneesta, joissa on Applen tarjoamaa 1,5 teratavun yhtenäistä muistia, käyttäen Exo 1.0:aa ja RDMA:ta Thunderbolt 5:n yli. Klusteri saavutti 3,7 teraflopsia HPL:llä ja ajoi onnistuneesti suuria tekoälymalleja, kuten Kimi K2 Thinking (yli 600 Gt) ja DeepSeek V3.1, osoittaen yhdistetyn muistin edut raskaille tekoälytyökuormille.
Apple toimitti kirjoittajalle klusterin, jossa oli neljä Mac Studio -tietokonetta RDMA:n testaamista varten Thunderbolt 5:n yli. Tämä on uusi ominaisuus macOS 26.2:ssa. Koneet yhdistettiin Exo 1.0:n avulla, joka on avoimen lähdekoodin työkalu tekoälytehtävien jakamiseen paikallisverkoissa. Klusterin yhteenlaskettu yhtenäinen muisti on 1,5 teratavua, joka maksaa noin 40 000 dollaria, mutta Apple lainasi laitteet. Kirjoittaja vertasi Mac Studion M3 Ultra -piiriä kilpailijoihin, kuten Nvidia DGX Spark ja AMD AI Max+ 395, ja se osoitti parempaa suorituskykyä Geekbenchissä, FP64 HPL:ssä ja päättelytehtävissä. Klusteri saavutti 3,7 teraflopsia HPL:ssä ja skaalautui hyvin solmujen välisestä muistiepätasapainosta huolimatta. Käyttämällä Exoa RDMA:n kanssa kirjoittaja ajoi onnistuneesti valtavia malleja, kuten Kimi K2 Thinking (yli 600 gigatavua) ja DeepSeek V3.1, ja saavutti jopa 32 tokenia sekunnissa Qwen3 235B:llä. Kirjoittaja totesi, että vaikka klusteri on tehokas, macOS-klusterien hallinta on hankalampaa kuin Linuxin, ja haasteita aiheuttavat kaapelien hallinta sekä Thunderbolt 5 -kytkimien puute. Koko järjestelmä kuluttaa alle 250 wattia ja toimii hiljaisesti.
Lähde: Habr — хаб ML — Alkuperäinen
Aiemmat aiheeseen liittyvät kirjoituksemme ↓
Tuoreet uutiset