性能対ワットはAIインフラ効率の鍵指標

NVIDIAは、AIインフラにおいて電力が不可避の制約であり、収益と収益性にとってパフォーマンス・ パー・ワットが重要な指標であると主張しています。フロンティアAIモデルがますます混合エキスパート（MoE）アーキテクチャを採用する中で、GPUのドメインサイズが重要となっています。MoEを効率的に動かすには、Hopper世代の8-GPUドメインではなく、72-GPUドメインが必要です。Blackwell NVL72プラットフォームは、フルスタックの協調設計により、最新のオープンモデルにおいてHopper比で最大25倍のパフォーマンス・パー・ワットを実現します。NVIDIAは、本番運用の経験が鍵であると強調しています。Anthropic、OpenAI、SpaceXAIはBlackwell NVL72を推論に使用し、CoreWeave、Perplexity、Fireworks AIは同プラットフォーム上で様々なモデルを展開しています。次世代のVera Rubinプラットフォームは、この基盤の上に構築され、エネルギー効率をさらに高めます。