Multiverse Computings KI-Modellkompression beschleunigt Inferenz auf Standardhardware

Multiverse Computing, ein auf Quanten-inspiriertes Computing spezialisiertes Unternehmen, hat einen neuen Ansatz zur Komprimierung von KI-Modellen durch Matrixfaktorisierungstechniken wie die Singulärwertzerlegung (Singular Value Decomposition, SVD) angekündigt. Die Methode reduziert die Modellgröße und die Rechenanforderungen, sodass große Modelle effizient auf herkömmlichen CPUs und GPUs laufen können. In Tests erzielte die Technik eine bis zu zehnfache Inferenzbeschleunigung auf CPUs ohne signifikanten Genauigkeitsverlust. Das Unternehmen behauptet, dass dies KI demokratisieren könnte, indem die Abhängigkeit von teurer, spezialisierter Hardware verringert wird.