Neljä Mac Studio -yksikköä klusteroituna 1,5 TB:n muistilla ajavat tekoälyä, joka ei mahdu yhdelle GPU:lle

Toimittaja yhdisti neljä Mac Studio -yksikköä, joissa on M3 Ultra, klusteriksi, jonka kokonaismuisti on 1,5 TB käyttämällä RDMA-tekniikkaa Thunderbolt 5:n kautta. Klusteri ajoi massiivisia tekoälymalleja, kuten Kimi K2 Thinking (yli 600 GB), joita ei voida ladata yksittäiseen tietokoneeseen. Projekti toteutettiin avoimen lähdekoodin työkalulla Exo 1.0.

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen

Arcee: Kiinalaiset tekoälymallit eivät ole vaarallisempia kuin mikään muu avoimen lähdekoodin ohjelmisto

Amerikkalainen avoimen tekoälyn laboratorio Arcee väittää, että kiinalaiset avoimen painon mallit, kuten Kimi K3 ja Qwen, eivät muodosta ainutlaatuista uhkaa. Arceen teknologiajohtaja Lucas Atkins selittää, että nämä mallit toimivat eristetyssä käyttäjäympäristössä, niillä ei ole viestintäkanavia kehittäjiin, ja niiden koodi on tarkastettavissa. Kieltojen sijaan hän ehdottaa avoimen ekosysteemin vahvistamista Yhdysvalloissa.

Moonshot AI Alibaba/Qwen OpenAI Anthropic