Hugging Face Transformers 后端集成至 vLLM，实现原生性能

在 vLLM 中将 Hugging Face Transformers 作为建模后端集成后，现在各类 Qwen3 模型（包括密集型和混合专家架构）的吞吐量可匹配或超越原生 vLLM，无需自定义移植。这是通过使用 torch.fx 和 AST 操作在运行时进行动态层融合实现的，允许任何兼容模型通过单个标志以原生速度运行。

Hugging Face

NVIDIA 使用 Vera 处理器加速未来 CPU 和 GPU 的设计

NVIDIA 正与 Cadence 和 Synopsys 合作，针对新的 Vera 处理器优化 EDA 应用。早期测试显示，在选定工作负载上性能提升可达 1.5 倍。Vera 已被用于 NVIDIA 自身的设计流程，以制造未来的芯片。

NVIDIA Cadence Design Systems Synopsys, Inc.