Cursor, Yapay Zeka Maliyetlerini Kalite Kaybı Olmadan %50'ye Kadar Düşüren Cursor Router'ı Başlattı: Bir İstek Sınıflandırıcı
Cursor
xAI
Anthropic
Cursor, her isteği model yürütülmeden önce inceleyen ve en uygun modele yönlendiren bir sınıflandırıcı olan Cursor Router'ı yayınladı. Çevrimiçi A/B testlerinde sistem, %60 maliyet tasarrufuyla sınır kalitesinde çıktı elde ediyor; ilk kurumsal hesaplar, Opus 4.8'e kıyasla %30-50 tasarruf bildiriyor. Yönlendirici, 600 binden fazla canlı istek üzerinde eğitildi ve tasarruf hesaplamalarında önbellek isabetsizliği maliyetlerini de dikkate alıyor.
Cursor Router artık Takımlar ve Kurumsal planlar için genel kullanıma sunuldu. Bu, kullanıcı memnuniyeti (AFC) için optimize edilmiş, 600.000'den fazla canlı istek üzerinde eğitilmiş, istek başına çalışan bir sınıflandırıcıdır. Sistem; sorgu, bağlam, görev karmaşıklığı ve alanı analiz ederek her isteği uygun modele yönlendirir. Cursor, çevrimiçi A/B testlerinde sınır kalitesini korurken %60 tasarruf ve erken erişim kurumsal hesaplar için %30-50 tasarruf bildirmektedir. Yönlendirici, önbellek farkındalığına sahiptir ve raporlanan tasarruflara önbellek ıskalama maliyetlerini dahil eder. İşlem başına maliyet metrikleri, Otomatik Denge için 4,63 dolar, Otomatik Zeka için 6,76 dolar, Opus 4.8 için 7,34 dolar ve Fable 5 için 12,69 dolar göstermektedir. Otomatik mod, üç optimizasyon ayarı sunar: Otomatik Zeka (%60 daha düşük maliyetle Fable memnuniyetine yakın), Otomatik Denge (%36 daha düşük maliyetle Opus 4.8 memnuniyetinin üzerinde) ve Maliyet modu (token harcamasını optimize eder). Grok 4.5 zorunlu bir yönlendirme seçeneğidir ve Denge/Zeka, yönlendirilen modelin oranı üzerinden faturalandırılır. Yönlendirici, tüm platformlarda dağıtılır ve Takımlar için varsayılan olarak açıktır; ekip bazında etkinleştirme ve model kısıtlamaları için yönetici kontrolleri bulunur.
Kaynak: MarkTechPost —
orijinal
