Nativ: запуск моделей ИИ локально на Mac
Apple
Разработчик Prince Canuma, создатель библиотеки MLX-VLM, выпустил приложение Nativ для macOS, которое позволяет запускать модели ИИ локально. Приложение предоставляет чат-интерфейс и API-сервер, а также находит уже загруженные модели из кэша Hugging Face.
Prince Canuma, разработчик библиотеки MLX-VLM на Python для запуска vision-LLM с помощью MLX на Mac, представил новый проект Nativ. Это полноценное десктопное приложение для macOS, которое оборачивает MLX в удобный интерфейс. Nativ похож на LM Studio: у него есть чат и локальный API-сервер для доступа к моделям. Приложение автоматически обнаружило MLX-модели, которые уже были загружены в кэш
Показать ещё ↓
- Сокращения
- API = Application Programming Interface — интерфейс программирования приложений
- LLM = Large Language Model — большая языковая модель
- MLX = Machine Learning Extensions — расширения для машинного обучения
- VLM = Vision Language Model — визуально-языковая модель
Источник: Simon Willison —
оригинал