AMD Instinct MI300: análise detalhada da arquitetura e desempenho

A série AMD Instinct MI300, baseada na arquitetura CDNA3, introduz um design heterogêneo de chiplets com até 8 módulos XCD e 4 módulos IOD, utilizando empacotamento avançado CoWoS e tecnologia 3D V-Cache. A linha inclui o acelerador MI300X e o APU MI300A com núcleos Zen 4 integrados, oferecendo até 304 unidades de computação, memória HBM3 de até 192 GB e melhorias significativas de desempenho em relação à geração anterior e à NVIDIA H100 em cargas de trabalho de HPC e IA.

NVIDIA Taiwan Semiconductor Manufacturing Company

Novo relatório técnico do DeepSeek-V3: como o co-design hardware-software permite treinamento de baixo custo de modelos grandes

Um novo artigo técnico da equipe DeepSeek, com o CEO Wenfeng Liang como coautor, explora o co-design de modelos conscientes de hardware para reduzir os custos de treinamento de LLMs. Usando o DeepSeek-V3 treinado em 2048 GPUs NVIDIA H800 como estudo de caso, o artigo detalha inovações em eficiência de memória (MLA), computação esparsa (DeepSeekMoE), treinamento FP8 e roteamento consciente de interconexão.

DeepSeek NVIDIA Alibaba/Qwen Meta