Hardware e Inferência RSS

Nativ: Executando Modelos de IA Localmente no Mac

O desenvolvedor Prince Canuma, criador da biblioteca MLX-VLM, lançou o aplicativo Nativ para macOS que permite executar modelos de IA localmente. O aplicativo fornece uma interface de chat e um servidor de API, e também encontra modelos já baixados do cache do Hugging Face.

AppleApple
Simon Willison24.07 · 06:03

Nvidia quer ocupar todos os chips em data centers de IA

A Nvidia está promovendo seu novo sistema de chips Vera Rubin, que combina GPUs e CPUs, posicionando-se como fornecedora de sistemas completos de IA. O sistema promete 10 vezes mais tokens por watt em comparação com o Grace Blackwell e apresenta resfriamento líquido, design sem cabos e instalação mais rápida. Os primeiros clientes incluem Microsoft, OpenAI e Oracle.

NVIDIANVIDIA Intel CorporationIntel Corporation OpenAIOpenAI
Wired AI24.07 · 06:03
Notícias frescas