Hardware e Inferencia RSS

Cuatro Mac Studios combinados en un clúster con 1,5 TB de memoria – lanzaron una IA que no cabe en una sola tarjeta gráfica

El autor construyó un clúster de cuatro computadoras Mac Studio con 1,5 TB de memoria unificada proporcionada por Apple, utilizando Exo 1.0 y RDMA a través de Thunderbolt 5. El clúster alcanzó 3,7 teraflops en HPL y ejecutó con éxito grandes modelos de IA como Kimi K2 Thinking (más de 600 GB) y DeepSeek V3.1, mostrando los beneficios de la memoria combinada para cargas de trabajo pesadas de IA.

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Habr — хаб ML24.07 · 04:03

Huatai Securities: los agentes de IA aceleran la demanda de potencia de cómputo y memoria, agilizando la localización de la cadena de suministro

Un informe de investigación de Huatai Securities sugiere que la industria de la IA está pasando del preentrenamiento de grandes modelos a la comercialización de agentes de IA en 2026, lo que impulsará la demanda de cómputo de inferencia hacia una fase de crecimiento acelerado. El informe destaca tres temas principales de inversión: la cadena de potencia de cómputo, los componentes de potencia y pasivos, y la autosuficiencia. Además, el Ministerio de Economía y Finanzas de Corea del Sur declaró que mantendrá una comunicación cercana con el Tesoro de Estados Unidos para garantizar la estabilidad del mercado de divisas.

36Kr24.07 · 04:01
Noticias frescas