멀티버스 컴퓨팅의 AI 모델 압축, 표준 하드웨어에서 추론 속도 향상

퀀텀 인스파이어드 컴퓨팅 기업인 멀티버스 컴퓨팅(Multiverse Computing)이 특이값 분해(singular value decomposition, SVD) 같은 행렬 분해 기법을 사용해 AI 모델을 압축하는 새로운 접근 방식을 발표했다. 이 방법은 모델 크기와 컴퓨팅 요구 사항을 줄여, 대규모 모델이 기존의 중앙처리장치(CPU)와 그래픽처리장치(GPU)에서도 효율적으로 실행될 수 있게 한다. 테스트 결과, 이 기술은 정확도 손실 없이 CPU에서 최대 10배의 추론 속도 향상을 달성했다. 회사는 이 기술이 값비싼 특수 하드웨어에 대한 의존도를 낮춰 AI를 대중화할 수 있을 것이라고 주장한다.