Baseten, Hugging Face Çıkarım Sağlayıcılarına Katılarak Sınır Modellere Erişim Sunuyor
Baseten
Moonshot AI
DeepSeek
Baseten artık Hugging Face Hub üzerinde desteklenen bir Çıkarım Sağlayıcısı olarak sunucu tabanlı çıkarım (yani sunucusuz çıkarım) yeteneklerini genişletiyor. Bu entegrasyon, Kimi K3, DeepSeek V4 Flash ve GLM-5.2 gibi popüler açık ağırlıklı büyük dil modellerine doğrudan model sayfalarından ve istemci yazılım geliştirme kitlerinden (SDK) erişim sağlıyor. Kullanıcılar, doğrudan sağlayıcı faturalandırması veya Hugging Face üzerinden yönlendirilmiş faturalandırma seçeneklerinden birini tercih edebilir.
Baseten, Hugging Face Hub'da desteklenen bir Inference Sağlayıcısı haline geldi ve sunucusuz inference sağlayıcıları ekosistemine katıldı. Bu entegrasyon, geliştiricilerin Hugging Face model sayfalarından ve istemci SDK'ları (Python ve JavaScript) aracılığıyla doğrudan Baseten tarafından barındırılan modelleri kullanmasına olanak tanır. Başlangıçta Baseten, konuşma ve metin üretimi görevlerini destekler ve Kimi K3, DeepSeek V4 Flash ve GLM-5.2 gibi modellere erişim sağlar. Kullanıcılar, doğrudan istekler için kendi Baseten API anahtarlarını kullanabilir veya istekleri Hugging Face üzerinden yönlendirebilir; bu durumda kullanıcının HF hesabı faturalandırılır. PRO kullanıcıları aylık 2 dolar değerinde Inference kredisi alır. Bu entegrasyon ayrıca Pi, OpenCode, Hermes Agents ve OpenClaw gibi çeşitli Ajan Donanımlarında da mevcuttur.
Kaynak: Hugging Face blog —
orijinal