Baidu Intelligence Cloud apresenta supernó Tianchi no WAIC para expandir os limites de escalabilidade da computação doméstica

Na World Artificial Intelligence Conference (WAIC), a Baidu Intelligence Cloud anunciou o supernó Tianchi, uma nova infraestrutura de computação projetada para ampliar os limites de escalabilidade da computação doméstica chinesa. O supernó visa oferecer suporte ao treinamento e inferência de modelos de inteligência artificial em grande escala, aprimorando as capacidades dos chips e sistemas nacionais.

Baidu

Mini-PC com Strix Halo sob carga paralela: 236 tok/s em 32 requisições concorrentes e três erros

Um Beelink GTR9 Pro com Ryzen AI Max+ 395 atingiu 236 tok/s agregados em 32 requisições concorrentes em testes curtos, mantendo uma média de 226 tok/s ao longo de 30 minutos sem redução de desempenho. O autor descobriu uma queda de throughput reproduzível entre 8 e 10 clientes concorrentes em todos os modelos testados, e constatou que a decodificação especulativa (MTP) acelerou o desempenho de cliente único em 42%, mas tornou-se uma penalidade sob concorrência.

Google/DeepMind