Multiverse Computing: CompactifAI nearly doubles Llama 3.3 performance on Intel Xeon 6

Multiverse Computingは、ニューラルネットワーク圧縮技術「CompactifAI」により、Intel Xeon 6サーバープロセッサ上で大規模言語モデル「Llama 3.3」の性能をほぼ2倍に向上できると発表した。同社によると、CompactifAIは量子インスパイアおよびテンソル圧縮手法を適用し、高い精度を維持しながらモデルサイズを削減し、推論を高速化する。試験では、288コアのIntel Xeon 6プラットフォーム上でタスク実行時間が約50%短縮され、データセンターでの展開においてモデルの効率性が向上することを示した。IntelとMultiverse Computingは、このソリューションが特別なハードウェアを必要とせず、標準的な中央演算処理装置で動作することを強調している。