Cuatro Mac Studio con 1.5 TB de memoria en clúster ejecutan IA que no cabe en una sola GPU

Un periodista combinó cuatro unidades Mac Studio con M3 Ultra en un clúster con una memoria total de 1.5 TB utilizando tecnología RDMA a través de Thunderbolt 5. El clúster ejecutó modelos masivos de IA como Kimi K2 Thinking (más de 600 GB), que no pueden cargarse en una sola computadora. El proyecto se implementó utilizando la herramienta de código abierto Exo 1.0.

Apple NVIDIA Exo Moonshot AI DeepSeek Alibaba/Qwen

Arcee: Los modelos de inteligencia artificial chinos no son más peligrosos que cualquier otro software de código abierto

El laboratorio estadounidense de inteligencia artificial abierta Arcee argumenta que los modelos de pesos abiertos chinos como Kimi K3 y Qwen no representan una amenaza única. Lucas Atkins, director de tecnología de Arcee, explica que estos modelos, que se ejecutan en un entorno de usuario aislado, no tienen canales de comunicación con los desarrolladores y su código está disponible para inspección. En lugar de prohibiciones, propone fortalecer el ecosistema abierto en Estados Unidos.

Moonshot AI Alibaba/Qwen OpenAI Anthropic