Mistral, Garantili Avrupa Birliği Veri İşleme ve Öncelikli Katman Sunuyor ancak Önemli Kısıtlamalar Var
Mistral
Mistral artık müşterilerin yapay zeka taleplerinin Avrupa'da mı yoksa ABD'de mi işleneceğini seçmesine olanak tanıyor ve talep artışları sırasında öncelikli erişim satıyor. Her iki seçenek de ek ücrete tabi ve bölgesel seçim tüm özellikler veya veriler için geçerli değil.
Mistral, bölgesel çıkarımı (regional inference) genel kullanıma açtığını duyurdu. Bu sayede müşteriler, isteklerini AB (api.eu.mistral.ai) veya ABD (api.us.mistral.ai) uç noktalarına gönderebilecek ve %10 ek ücret ödeyecek. Ancak ek araçlar arasında yalnızca fonksiyon çağrıları bölgesel olarak çalışıyor; ajanlar, toplu işleme ve dosya yönetimi bu kapsamın dışında. Ayrıca model sunumu bölgeye göre farklılık gösterebiliyor. Hesap ayarları, erişim anahtarları, faturalandırma ve kullanım istatistikleri seçilen bölge dışında işlenebilir ve bölge dışındaki alt işlemcilere sınırlı güvenli aktarımlar yapılabileceği belirtiliyor. Metin işleme ihtiyacı olan müşteriler için AB uç noktası çalışıyor, ancak ajanlar veya Dosya API'si için aynı garanti verilmiyor. Mistral ayrıca, şu anda açık beta aşamasında olan ve tıkanıklık sırasında öncelikli işleme sağlayan, %75 ek ücret karşılığında sunulan ve %99,5 çalışma süresi SLA'sı içeren Öncelikli Katman'ı (Priority Tier) tanıttı. Öncelik, service_tier parametresiyle etkinleştirilebiliyor ve müşterilere bireysel olarak müzakere edilen hız sınırları veriliyor. Öncelik ek ücretinden önce ön bellekten yanıt indirimleri (prompt caching discounts) uygulanıyor. Ayrıca Mistral, platformunu diğer sağlayıcıların açık modellerine açıyor; bu kapsamda Çinli satıcı Z.ai'nin GLM-5.2 modeliyle başlanıyor ve Avrupa'da yeni veri merkezleri inşa etmeyi gerekçelendirmek için büyük müşterilerden Avrupa Bilgi İşlem Birimleri (European Compute Units) olarak uzun vadeli taahhütler toplanıyor.
Kaynak: The Decoder (DE) —
orijinal
