La compresión de modelos de IA de Multiverse Computing acelera la inferencia en hardware estándar
Multiverse Computing
Multiverse Computing ha desarrollado un método para comprimir modelos de inteligencia artificial, lo que permite que se ejecuten más rápido en hardware estándar sin necesidad de aceleradores especializados. La técnica, que utiliza la descomposición en valores singulares, logra una aceleración de hasta 10 veces en unidades centrales de procesamiento.
Multiverse Computing, una empresa de computación inspirada en la mecánica cuántica, ha anunciado un nuevo enfoque para comprimir modelos de inteligencia artificial utilizando técnicas de factorización matricial como la descomposición en valores singulares (singular value decomposition, SVD). El método reduce el tamaño del modelo y los requisitos computacionales, permitiendo que modelos grandes se ejecuten de manera eficiente en CPU y GPU convencionales. En las pruebas, la técnica logró una aceleración de hasta 10 veces en la inferencia en CPU sin una pérdida significativa de precisión. La empresa afirma que esto podría democratizar la inteligencia artificial al reducir la dependencia de hardware especializado y costoso.
Fuente: Meta AI (GNews) —
original
