Nativ: KI-Modelle lokal auf dem Mac ausführen
Apple
Der Entwickler Prince Canuma, Ersteller der MLX-VLM-Bibliothek, hat die Nativ-App für macOS veröffentlicht, die das lokale Ausführen von KI-Modellen ermöglicht. Die App bietet eine Chat-Oberfläche und einen API-Server und findet zudem bereits heruntergeladene Modelle aus dem Hugging-Face-Cache.
Prince Canuma, разработчик библиотеки MLX-VLM на Python для запуска vision-LLM с помощью MLX на Mac, представил новый проект Nativ. Это полноценное десктопное приложение для macOS, которое оборачивает MLX в удобный интерфейс. Nativ похож на LM Studio: у него есть чат и локальный API-сервер для доступа к моделям. Приложение автоматически обнаружило MLX-модели, которые уже были загружены в кэш Hugging Face, что является приятной деталью.
Quelle: Simon Willison —
Original