Kompresi Model AI Multiverse Computing Mempercepat Inferensi pada Perangkat Keras Standar
Multiverse Computing
Multiverse Computing telah mengembangkan metode untuk mengompresi model AI, sehingga model tersebut dapat berjalan lebih cepat pada perangkat keras standar tanpa akselerator khusus. Teknik yang menggunakan dekomposisi nilai singular ini dilaporkan mencapai percepatan hingga 10 kali lipat pada CPU.
Multiverse Computing, sebuah perusahaan komputasi yang terinspirasi kuantum, mengumumkan pendekatan baru untuk mengompres model kecerdasan buatan (AI) menggunakan teknik faktorisasi matriks seperti dekomposisi nilai singular (singular value decomposition). Metode ini mengurangi ukuran model dan kebutuhan komputasi, memungkinkan model besar berjalan secara efisien pada CPU dan GPU konvensional. Dalam pengujian, teknik ini mencapai peningkatan kecepatan inferensi hingga 10 kali lipat pada CPU tanpa kehilangan akurasi yang signifikan. Perusahaan mengklaim hal ini dapat mendemokratisasi AI dengan mengurangi ketergantungan pada perangkat keras khusus yang mahal.
Sumber: Meta AI (GNews) —
asli
