Multiverse ComputingのAIモデル圧縮技術、標準ハードウェアでの推論を高速化
Multiverse Computing
Multiverse Computingは、特殊なアクセラレータを必要とせずに標準ハードウェア上でAIモデルを高速実行できる圧縮手法を開発した。特異値分解を用いるこの技術は、CPU上で最大10倍の高速化を実現するという。
量子インスパイア型コンピューティング企業のMultiverse Computingは、特異値分解などの行列分解技術を用いてAIモデルを圧縮する新たなアプローチを発表した。この手法はモデルサイズと計算要件を削減し、大規模モデルを従来のCPUやGPU上で効率的に動作させることを可能にする。テストでは、精度を大幅に損なうことなく、CPU上で最大10倍の推論高速化を達成した。同社は、これにより高価な専用ハードウェアへの依存を減らし、AIを民主化できると主張している。
出典: Meta AI (GNews) —
原文
