要約 · 1ヶ月以内
- NVIDIA Groq 3:新AIプラットフォームにおけるSRAM、ディスアグリゲーション、決定論
NVIDIAによる200億ドルのGroq買収により、LPUアクセラレータがVera Rubinプラットフォームに統合され、ディスアグリゲートされたヘテロジニアスなAI推論が可能になりました。新しいGroq 3 LPXラックシステムは256個のLPUを組み合わせ、高速で決定論的なトークン生成を実現し、Vera Rubin NVL72が柔軟なトレーニングと推論を担当します。このプラットフォームは低レイテンシのインタラクティブAIとマルチエージェントワークロードを対象とし、Grace Blackwell NVL72比で最大35倍のパフォーマンス向上(1ユーザーあたり400 TPS)を約束します。
出典: dnb66 · 要約 —
原文
