Multiverse Computing的AI模型压缩技术加速标准硬件推理

量子启发计算公司Multiverse Computing宣布了一种利用奇异值分解等矩阵分解技术压缩AI模型的新方法。该方法能减小模型体积并降低计算需求，使大型模型能够在传统CPU和GPU上高效运行。测试中，该技术在CPU上实现了高达10倍的推理加速，且未造成显著的精度损失。该公司声称，这将通过减少对昂贵专用硬件的依赖，推动AI的普及化。