Apple

Laatste AI-nieuws, modellen en releases van Apple. ['A19 Pro', 'Applebot-Extended', 'Apple Health', 'Apple Intelligence', 'Foundation Models framework', 'M3 Ultra', 'M5 Max', 'M5 Pro', 'M5 Ultra', 'M6', 'M7 Max', 'M7 Pro', 'Mac Studio', 'MLX', 'Qwen3-VL-8B', 'Siri']

Officiële site ↗

Hardware & Inferentie 🇺🇸

Nativ: lokale AI-modellen draaien op Mac

Ontwikkelaar Prince Canuma, maker van de MLX-VLM-bibliotheek, heeft de Nativ-app voor macOS uitgebracht waarmee AI-modellen lokaal kunnen worden uitgevoerd. De app biedt een chatinterface en API-server, en vindt ook al gedownloade modellen uit de Hugging Face-cache.

Apple

Simon Willison24.07 · 06:03

Hardware & Inferentie 🇷🇺

Four Mac Studio Units Clustered with 1.5 TB Memory Run AI That Does Not Fit on a Single GPU

A journalist combined four Mac Studio units with M3 Ultra into a cluster with a total memory of 1.5 TB using RDMA technology via Thunderbolt 5. The cluster ran massive AI models such as Kimi K2 Thinking (over 600 GB), which cannot be loaded on a single computer. The project was implemented using the open-source tool Exo 1.0.

Apple

NVIDIA

Exo

Moonshot AI

DeepSeek

Alibaba/Qwen

Habr — хаб ML24.07 · 04:03

Toon meer ↓