Hardware e Inferência RSS

Quatro Mac Studios combinados em um cluster com 1,5 TB de memória – lançada uma IA que não cabe em uma única placa gráfica

O autor construiu um cluster de quatro computadores Mac Studio com 1,5 TB de memória unificada fornecida pela Apple, usando Exo 1.0 e RDMA sobre Thunderbolt 5. O cluster atingiu 3,7 teraflops em HPL e executou com sucesso grandes modelos de IA como Kimi K2 Thinking (mais de 600 GB) e DeepSeek V3.1, demonstrando os benefícios da memória combinada para cargas de trabalho pesadas de IA.

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Habr — хаб ML24.07 · 04:03

Huatai Securities: Agentes de IA aceleram demanda por poder computacional e memória, acelerando a localização da cadeia de suprimentos

Um relatório de pesquisa da Huatai Securities sugere que a indústria de IA está mudando do pré-treinamento de modelos grandes para a comercialização de Agentes de IA em 2026, impulsionando a demanda de computação inferencial para uma fase de crescimento acelerado. O relatório destaca três principais temas de investimento: cadeia de poder computacional, componentes de potência e passivos, e autossuficiência. Além disso, o Ministério da Economia e Finanças da Coreia do Sul afirmou que manterá comunicação próxima com o Tesouro dos EUA para garantir estabilidade no mercado de câmbio.

36Kr24.07 · 04:01
Notícias frescas