Multiverse Computing's AI Model Compression Boosts Performance on Standard Hardware
Multiverse Computing
Multiverse Computing has introduced a technology for compressing AI models that significantly improves performance on standard hardware. The solution enables large language models (LLMs) to run on ordinary GPUs at high speed, potentially reducing infrastructure costs and making AI more accessible.
Kuantum bilişim şirketi Multiverse Computing, yapay zeka modellerini sıkıştırmak için standart donanımda çalışmayı önemli ölçüde hızlandıran bir yöntem geliştirdiğini duyurdu. Teknoloji, büyük dil modellerini (Large Language Models - LLM) önemli bir doğruluk kaybı olmadan sıkıştırarak, özel çipler kullanımına kıyasla benzer performansla sıradan grafik işlem birimlerinde (Graphics Processing Units - GPU) çalıştırılmalarını sağlıyor. Şirkete göre bu, hesaplama maliyetlerini ve enerji tüketimini azaltarak ileri düzey yapay zeka modellerini küçük ve orta ölçekli işletmeler için daha erişilebilir kılıyor. Test edilen belirli modellerin detayları henüz açıklanmadı ancak yöntemin çeşitli mimarilere uygulanabilir olduğu belirtiliyor.
Kaynak: Meta AI (GNews) —
orijinal