Multiverse Computing's AI Model Compression Boosts Performance on Standard Hardware
Multiverse Computing
Multiverse Computing has introduced a technology for compressing AI models that significantly improves performance on standard hardware. The solution enables large language models (LLMs) to run on ordinary GPUs at high speed, potentially reducing infrastructure costs and making AI more accessible.
Perusahaan Multiverse Computing, yang mengkhususkan diri dalam komputasi kuantum, mengumumkan pengembangan metode kompresi model AI yang secara signifikan mempercepat kinerja pada perangkat keras standar. Teknologi ini memampatkan model bahasa besar (large language model, LLM) tanpa kehilangan akurasi yang signifikan, sehingga memungkinkan mereka dijalankan pada unit pemrosesan grafis (graphics processing unit, GPU) biasa dengan performa yang sebanding dengan penggunaan chip khusus. Menurut klaim perusahaan, ini mengurangi biaya komputasi dan konsumsi energi, membuat model AI canggih lebih terjangkau bagi usaha kecil dan menengah. Detail model spesifik yang diuji belum diungkapkan, tetapi metode ini diklaim dapat diterapkan pada berbagai arsitektur.
Sumber: Meta AI (GNews) —
asli