알리바바 클라우드: 젠우 M890 칩이 Qwen3.8에 적응, 모델이 바이리안에서 추론 서비스 시작
Alibaba/Qwen
알리바바 클라우드는 자사의 젠우 M890 슈퍼노드 칩이 Qwen3.8 모델을 성공적으로 적응시켜 바이리안 플랫폼에서 추론이 가능해졌다고 발표했습니다. 젠우 M890은 T-Head의 차세대 AI 칩으로, FP32에서 FP4까지의 정밀도를 지원하고 ICN 스위치 1.0을 통해 800GB/s의 상호 연결을 달성하여 단일 인스턴스로 2.4조 파라미터 모델을 실행할 수 있습니다.
알리바바 클라우드는 7월 23일, 자체 개발한 젠우 M890 슈퍼노드 칩이 알리바바의 2조 4000억 개 파라미터를 가진 주력 모델 Qwen3.8을 성공적으로 적응시켜 현재 바이리안 플랫폼에서 추론 서비스를 제공하고 있다고 발표했다. 이는 중국산 슈퍼노드가 2조 개가 넘는 파라미터를 가진 모델을 실행한 최초의 사례다. 티헤드가 개발한 젠우 M890은 FP32부터 FP4까지의 데이터 정밀도를 지원하는 차세대 AI 칩으로, 고정밀 훈련과 저정밀 추론에 적합하다. ICN 스위치 1.0을 통해 64개의 젠우 M890 칩이 800GB/s의 상호 연결을 구현하여 9TB의 비디오 메모리를 제공하고, 대규모 MoE 모델에 대한 전문가 병렬 처리를 가능하게 한다. 알리바바는 또한 Qwen3.8을 위해 칩에서 클라우드까지 전체 스택을 최적화하여 에이전트 시나리오에서 추론 효율성을 최대 1.5배 향상시켰다.
출처: QbitAI 量子位 —
원문
