Multiverse Computing

Neueste KI-Nachrichten, Modelle und Releases von Multiverse Computing. ['CompactifAI']

Hardware & Inferenz 🇺🇸

Multiverse Computing: CompactifAI verdoppelt fast die Leistung von Llama 3.3 auf Intel Xeon 6

Multiverse Computing gab bekannt, dass seine CompactifAI-Technologie die Leistung des Llama 3.3-Modells auf Intel Xeon 6-Prozessoren nahezu verdoppeln kann. Die Lösung nutzt neuronale Netzwerk-Kompressionstechniken, um die Inferenz zu beschleunigen, ohne dass es zu nennenswerten Genauigkeitsverlusten kommt.

Multiverse Computings KI-Modellkompression steigert Leistung auf Standardhardware

Multiverse Computing hat eine Technologie zur Kompression von KI-Modellen vorgestellt, die die Leistung auf Standardhardware deutlich verbessert. Die Lösung ermöglicht es großen Sprachmodellen (Large Language Models, LLMs), mit hoher Geschwindigkeit auf gewöhnlichen GPUs zu laufen, was potenziell die Infrastrukturkosten senkt und KI zugänglicher macht.

Multiverse Computing

Meta AI (GNews)24.07 · 00:03