Производительность на ватт — ключевая метрика эффективности ИИ-инфраструктуры
NVIDIA
CoreWeave
Perplexity AI
Fireworks AI
Производительность на ватт является основой для AI-фабрик, так как энергопотребление — главное ограничение. Платформа NVIDIA Blackwell NVL72 обеспечивает до 25-кратного увеличения производительности на ватт по сравнению с Hopper для моделей типа MoE, а будущая платформа Vera Rubin развивает этот подход для дальнейшего повышения энергоэффективности на уровне стоек.
NVIDIA утверждает, что энергопотребление является неизбежным ограничением для инфраструктуры искусственного интеллекта, что делает производительность на ватт критически важным показателем для доходов и рентабельности. Поскольку передовые модели ИИ все чаще используют архитектуру смеси экспертов (mixture-of-experts, MoE), размер домена графического процессора (GPU) приобретает значение:
Показать ещё ↓
Источник: NVIDIA blog —
оригинал