मल्टीवर्स कंप्यूटिंग का AI मॉडल कम्प्रेशन, मानक हार्डवेयर पर इन्फरेंस को गति देता है
Multiverse Computing
मल्टीवर्स कंप्यूटिंग ने AI मॉडलों को संपीड़ित करने की एक विधि विकसित की है, जो उन्हें विशेष एक्सेलरेटर के बिना मानक हार्डवेयर पर तेज़ी से चलाने में सक्षम बनाती है। यह तकनीक, जो सिंगुलर वैल्यू डीकंपोजीशन का उपयोग करती है, CPU पर 10 गुना तक की स्पीडअप प्राप्त करने का दावा करती है।
मल्टीवर्स कंप्यूटिंग, एक क्वांटम-प्रेरित कंप्यूटिंग कंपनी, ने सिंगुलर वैल्यू डीकंपोजीशन जैसी मैट्रिक्स फैक्टराइजेशन तकनीकों का उपयोग करके AI मॉडल को संपीड़ित करने का एक नया दृष्टिकोण घोषित किया। यह विधि मॉडल के आकार और कम्प्यूटेशनल आवश्यकताओं को कम करती है, जिससे बड़े मॉडल पारंपरिक CPUs और GPUs पर कुशलतापूर्वक चल सकते हैं। परीक्षणों में, इस तकनीक ने सटीकता में महत्वपूर्ण हानि के बिना CPUs पर 10 गुना तक इन्फ्रेंस स्पीडअप प्राप्त किया। कंपनी का दावा है कि यह महंगे, विशेष हार्डवेयर पर निर्भरता को कम करके AI को लोकतांत्रिक बना सकता है।
स्रोत: Meta AI (GNews) —
मूल