Maxio Tech

最新のAIニュース、モデル、リリース元 Maxio Tech.

AI SSD:LLM推論におけるストレージのパラダイムシフト

AIインフラストラクチャは生の計算能力を超えて進化しており、推論状態が第一級のリソースになりつつあります。Moonshot AIのMooncakeやエヌビディアのCMXプラットフォームなどのシステムは、トークン生成のためのリアルタイムデータパスにストレージを統合しています。このシフトは、低レイテンシ、高耐久性、インテリジェントなデータ管理を目的としたAI専用SSDの登場を促進しています。

Moonshot AIMoonshot AI NVIDIANVIDIA HuaweiHuawei Maxio TechMaxio Tech
QbitAI 量子位07.08 · 07:02

HBMだけでは不十分、AI SSDが爆発的成長へ

大規模言語モデルの推論が容量とI/Oの壁に直面する中、SSDは静的ストレージから推論のリアルタイムデータ経路へと移行し、HBM、VRAM、DRAMに続く正式なストレージ階層となっています。業界では、AI負荷強化型エンタープライズSSDと、データを直接スケジュールする推論参加型SSDの2つの主要なルートが見られ、Phison、Longsys、Maxio-Infplaneアライアンスなどの企業が先頭を走っています。

Moonshot AIMoonshot AI NVIDIANVIDIA HuaweiHuawei Maxio TechMaxio Tech
InfoQ 中国07.08 · 06:02
新着ニュース