NVIDIA Blackwell Ultra: 15 Pflops NVFP4, 288 GB HBM3e, sem FP64

A NVIDIA apresentou o acelerador Blackwell Ultra, com 208 bilhões de transistores, 15 Pflops em NVFP4, 288 GB de memória HBM3e e novos Tensor Cores de quinta geração. O chip omite FP64, mas introduz o formato NVFP4 para inferência de IA eficiente.

NVIDIA Taiwan Semiconductor Manufacturing Company

Engenheiros da Mistral AI descobrem causa real de vazamento de memória no vLLM usando BPFtrace

Engenheiros da Mistral AI investigaram um vazamento de memória no vLLM durante o serviço desagregado com Mistral Medium 3.1. Após usar ferramentas Python, Heaptrack e BPFtrace, descobriram que o vazamento era causado por chamadas mmap diretas via wrapper de syscall do glibc, e não por alocações de heap.

Mistral