Hardware e Inferencia RSS

Nativ: Ejecutando Modelos de IA Localmente en Mac

El desarrollador Prince Canuma, creador de la biblioteca MLX-VLM, lanzó la aplicación Nativ para macOS que permite ejecutar modelos de IA localmente. La aplicación ofrece una interfaz de chat y un servidor API, y también encuentra modelos ya descargados de la caché de Hugging Face.

AppleApple
Simon Willison24.07 · 06:03

Nvidia aspira a ocupar cada chip en los centros de datos de IA

Nvidia está promocionando su nuevo sistema de chips Vera Rubin, que combina GPU y CPU, posicionándose como proveedor de sistemas de IA completos. El sistema promete 10 veces más tokens por vatio en comparación con Grace Blackwell y cuenta con refrigeración líquida, diseño sin cables e instalación más rápida. Los primeros clientes incluyen Microsoft, OpenAI y Oracle.

NVIDIANVIDIA Intel CorporationIntel Corporation OpenAIOpenAI
Wired AI24.07 · 06:03
Noticias frescas