Nativ: AI-mallien paikallinen ajaminen Macilla
Apple
Kehittäjä Prince Canuma, MLX-VLM-kirjaston luoja, julkaisi Nativ-sovelluksen macOS:lle, jonka avulla voi ajaa tekoälymalleja paikallisesti. Sovellus tarjoaa keskustelukäyttöliittymän ja API-palvelimen, ja se löytää myös jo ladatut mallit Hugging Facen välimuistista.
Prince Canuma, MLX-VLM-kirjaston kehittäjä, joka on Python-kirjasto vision-kielimallien ajamiseen MLX:n avulla Macissa, on esitellyt uuden projektin nimeltä Nativ. Kyseessä on täysimittainen macOS-työpöytäsovellus, joka kietoo MLX:n kätevän käyttöliittymän taakse. Nativ muistuttaa LM Studiota: siinä on chat-ominaisuus ja paikallinen API-palvelin mallien käyttöä varten. Sovellus havaitsi automaattisesti MLX-mallit, jotka oli jo ladattu Hugging Facen välimuistiin, mikä on mukava yksityiskohta.
Lähde: Simon Willison —
Alkuperäinen