Nativ: lokale AI-modellen draaien op Mac
Apple
Ontwikkelaar Prince Canuma, maker van de MLX-VLM-bibliotheek, heeft de Nativ-app voor macOS uitgebracht waarmee AI-modellen lokaal kunnen worden uitgevoerd. De app biedt een chatinterface en API-server, en vindt ook al gedownloade modellen uit de Hugging Face-cache.
Prince Canuma, de ontwikkelaar van de MLX-VLM-bibliotheek op Python waarmee vision-LLM's met MLX op een Mac kunnen worden uitgevoerd, heeft een nieuw project genaamd Nativ geïntroduceerd. Dit is een volwaardige desktopapplicatie voor macOS die MLX omhult met een gebruiksvriendelijke interface. Nativ lijkt op LM Studio: het heeft een chatfunctie en een lokale API-server voor toegang tot modellen. De applicatie detecteert automatisch MLX-modellen die al in de Hugging Face-cache zijn gedownload, wat een prettige bijkomstigheid is.
Bron: Simon Willison —
origineel