Hugging Face e Microsoft Foundry: Modelos Abertos em GPUs Gerenciadas

A Hugging Face e a Microsoft Foundry firmaram parceria para trazer modelos de pesos abertos do ecossistema Hugging Face para a plataforma Foundry, fornecendo computação gerenciada por GPU. A Coleção Hugging Face curada oferece modelos com segurança verificada em diversas modalidades, com modelos de implantação e gerenciamento automatizado de tempo de execução. Isso permite que empresas implantem modelos abertos com a mesma facilidade que modelos proprietários no Foundry.

Microsoft Hugging Face OpenAI Anthropic Meta Mistral DeepSeek

Backend Hugging Face Transformers para vLLM Atinge Performance Nativa

A integração do Hugging Face Transformers como backend de modelagem no vLLM agora iguala ou supera a taxa de transferência nativa do vLLM em vários modelos Qwen3, incluindo arquiteturas densas e de mistura de especialistas, sem exigir portabilidade personalizada. Isso é alcançado por meio de fusões dinâmicas de camadas em tempo de execução usando torch.fx e manipulação de AST, permitindo que qualquer modelo compatível seja executado em velocidade nativa com um único sinalizador.

Hugging Face