Четыре Mac Studio объединили в кластер с 1,5 ТБ памяти — запустили ИИ, не помещающийся в одну видеокарту
Apple
NVIDIA
Exo
Moonshot AI
DeepSeek
Alibaba/Qwen
Автор собрал кластер из четырех компьютеров Mac Studio с 1,5 ТБ унифицированной памяти от Apple, используя Exo 1.0 и RDMA через Thunderbolt 5. Кластер достиг 3,7 терафлопс в HPL и успешно запустил большие ИИ-модели, такие как Kimi K2 Thinking (более 600 ГБ) и DeepSeek V3.1, демонстрируя преимущества объединенной памяти для тяжелых ИИ-нагрузок.
Apple предоставила автору кластер из четырёх компьютеров Mac Studio для тестирования RDMA через Thunderbolt 5 — новой функции в macOS 26.2. Машины были соединены с помощью Exo 1.0, инструмента с открытым исходным кодом для распределения задач ИИ по локальным сетям. Общая унифицированная память кластера составляет 1,5 ТБ, стоимость — около 40 000 долларов, но устройства были предоставлены Apple во
Показать ещё ↓
Источник: Habr — хаб ML —
оригинал