Baseten liittyy Hugging Face -inferenssipalveluntarjoajiin tarjoten pääsyn edelläkävijämalleihin
Baseten
Moonshot AI
DeepSeek
Baseten on nyt tuettu inferenssipalveluntarjoaja Hugging Face Hubissa, mikä laajentaa serverless-inferenssin mahdollisuuksia. Integraatio mahdollistaa pääsyn suosittuihin avoimen painon LLM-malleihin, kuten Kimi K3, DeepSeek V4 Flash ja GLM-5.2, suoraan mallien sivuilta ja asiakas-SDK:ista. Käyttäjät voivat valita suoran palveluntarjoajan laskutuksen tai reititetyn laskutuksen Hugging Facen kautta.
Basetenista on tullut tuettu Inference-palveluntarjoaja Hugging Face Hubissa, ja se liittyy serverless-inference-palveluntarjoajien ekosysteemiin. Tämä integraatio mahdollistaa kehittäjille Basetenin isännöimien mallien käytön suoraan Hugging Face -mallisivuilta sekä asiakas-SDK:iden kautta (Python ja JavaScript). Aluksi Baseten tukee keskustelu- ja tekstigenerointitehtäviä, tarjoten pääsyn esimerkiksi malleihin kuten Kimi K3, DeepSeek V4 Flash ja GLM-5.2. Käyttäjät voivat joko käyttää omaa Baseten API-avaintaan suoriin pyyntöihin tai reitittää pyynnöt Hugging Facen kautta, jolloin laskutus tapahtuu käyttäjän HF-tilille. PRO-käyttäjät saavat kuukausittain 2 dollaria Inference-hyvityksiä. Integraatio on saatavilla myös erilaisissa Agent-valjaissa, kuten Pi, OpenCode, Hermes Agents ja OpenClaw.
Lähde: Hugging Face blog —
Alkuperäinen