NVIDIA Blackwell Ultra：15 Pflops NVFP4、288 GB HBM3e，无FP64

NVIDIA 发布了 Blackwell Ultra 加速器，具有 2080 亿个晶体管、NVFP4 格式下 15 Pflops 算力、288 GB HBM3e 内存以及新的第五代 Tensor Core。该芯片放弃了 FP64，但引入了 NVFP4 格式，以实现高效的 AI 推理。

NVIDIA Taiwan Semiconductor Manufacturing Company

Mistral AI工程师使用BPFtrace发现vLLM内存泄漏的真实原因

Mistral AI工程师在Mistral Medium 3.1的分片服务中调查了vLLM的内存泄漏问题。在使用Python工具、Heaptrack和BPFtrace后，他们发现泄漏是由glibc系统调用包装器直接调用mmap导致的，而非堆分配。

Mistral