Multiverse Computing: CompactifAI verdoppelt fast die Leistung von Llama 3.3 auf Intel Xeon 6

Multiverse Computing hat angekündigt, dass ihre Technologie zur Komprimierung neuronaler Netze, CompactifAI, die Leistung des großen Sprachmodells Llama 3.3 bei Betrieb auf den Server-Prozessoren Intel Xeon 6 nahezu verdoppeln kann. Das Unternehmen behauptet, dass CompactifAI Methoden der quanteninspirierten und Tensor-Komprimierung einsetzt, um die Modellgröße zu reduzieren und die Inferenz zu beschleunigen, während eine hohe Genauigkeit erhalten bleibt. Tests haben gezeigt, dass auf der Intel Xeon 6-Plattform mit 288 Kernen die Ausführungszeit der Aufgaben um fast 50% reduziert wird, was das Modell für den Einsatz in Rechenzentren effizienter macht. Intel und Multiverse Computing betonten, dass die Lösung keine spezielle Hardware erfordert und auf Standard-CPUs funktioniert.