NVIDIA RTX PRO 5000 Blackwell 72 GB VRAM搭載：フラッグシップの上位版に価値はあるか？

このHabrの記事は、より大きなAIモデル向けにリリースされた高メモリ版である、GDDR7 VRAMを72GB搭載したNVIDIA RTX PRO 5000 Blackwellについて考察しています。標準の48GB版と比較して、価格は2倍（約9999ドル対5000ドル）で、MIG分割2x36GBに対応しています。RTX PRO 6000 Blackwell（96GB）とのベンチマークでは、生成速度がわずか15〜20%遅いだけであり、両者とも大きなコンテキスト（中規模モデルで最大128kトークン）を処理できます。前世代のRTX A5000と比較すると、ほぼ2倍の速度で、10倍のコンテキストをロードでき、マルチGPUのAMD構成をトークン/秒で2〜5倍上回ります。ただし、AMDカードはGBあたりのコストが安価です。このカードは、Ollamaを介したQwen3-Coder-Nextでもテストされ、実際のコーディングタスクで100〜120トークン/秒を達成し、gpt-oss-120bでは40〜50トークン/秒に達しました。著者は、現在の価格とメモリ不足を考慮すると、RTX PRO 5000 Blackwellが愛好家や専門家にとって最良のバランスを提供し、6000の半分の電力を消費し、推論タスクに優れていると結論付けています。