Projetando Núcleos de GPU de Alto Desempenho com TileLang: Tensor GEMMs, Softmax Fundido, FlashAttention e Ajuste Automático

TileLang é uma linguagem específica de domínio de alto nível em Python para simplificar a criação de núcleos de GPU. O guia demonstra a implementação passo a passo de tarefas complexas: tensor GEMMs, softmax fundido e FlashAttention, onde o compilador lida com detalhes de baixo nível do CUDA.

Corrida de Agentes de IA em Smartphones: Nubia, StepFun e Honor Competem em Modelos, Hardware e Aplicativos

As fabricantes chinesas de smartphones Nubia e Honor, juntamente com a startup de IA StepFun, estão em uma corrida para implantar agentes de IA em smartphones. A Nubia integra o modelo Step-2 da StepFun para assistentes de voz no dispositivo, enquanto a Honor oferece sua própria plataforma de agente de IA. A competição abrange modelos de IA, aceleração de hardware e ecossistemas de aplicativos.

ByteDance Nubia Technology (努比亚) Honor