NVIDIA Blackwell Ultra: 15 Pflops NVFP4, 288 GB HBM3e, sin FP64

NVIDIA presentó el acelerador Blackwell Ultra, que cuenta con 208 mil millones de transistores, 15 Pflops en NVFP4, 288 GB de memoria HBM3e y nuevos Tensor Cores de quinta generación. El chip omite FP64 pero introduce el formato NVFP4 para una inferencia de IA eficiente.

NVIDIA Taiwan Semiconductor Manufacturing Company

Ingenieros de Mistral AI descubren la causa real de una fuga de memoria en vLLM usando BPFtrace

Los ingenieros de Mistral AI investigaron una fuga de memoria en vLLM durante el servicio disagregado con Mistral Medium 3.1. Después de usar herramientas de Python, Heaptrack y BPFtrace, descubrieron que la fuga era causada por llamadas directas a mmap a través del envoltorio de syscall de glibc, no por asignaciones de heap.

Mistral