Writer, Palmyra X6 modelini ve maliyetleri düşürmek için donanım yükseltmelerini tanıttı

Yazarlar için yapay zeka araçları ve ajanları sunan Writer, pahalı yapay zeka dağıtımları sorununu çözmeyi hedefleyen yeni amiral gemisi modeli Palmyra X6'yı piyasaya sürdü. Z.ai'nin açık kaynak modeli GLM-5.2'nin eğitim sonrası bir varyasyonu olarak oluşturulan yeni sistem, çok daha düşük bir fiyata dağıtıma hazır yetenekler sağlamalıdır. Şirket, yeni modelin altyapı donanımındaki değişikliklerle birlikte temel görevler için müşteri maliyetlerini yüzde 50'ye kadar düşüreceğini tahmin ediyor. Yeni modelle birlikte şirket, standart ajan donanımında da önemli yükseltmeler yayınladı; her iki özellik de Perşembe gününden itibaren Writer müşterilerinin kullanımına sunuldu. CEO May Habib TechCrunch'a, işletmelerin kıyaslama (benchmark) peşinde koşmaktan bıktığını ve maliyetlerin düşmesini istediğini söyledi. Yeni yaklaşım, daha az token ile daha hızlı gerçekleştirilen karmaşık, çok adımlı görevlere vurgu yapıyor ve donanım optimizasyonunu kritik bir kaldıraç olarak görüyor. Writer araştırmacılarının yakın tarihli bir makalesi, donanım verimliliğindeki değişikliklerin, model seçiminden daha güvenilir bir maliyet düşürme yolu olduğunu ve testlerde maliyetlerin ortalama yüzde 40 düştüğünü buldu. Müşteriler için deneyim modelden bağımsız kalıyor: Palmyra X6, diğer Writer modellerinin veya Azure ya da Amazon Bedrock üzerinden içe aktarılan harici modellerin yanında yer alacak. Habib ayrıca maliyet düşürme hamlesinin, token kullanımını artırma konusunda finansal çıkarı olan büyük yapay zeka laboratuvarlarına yönelik güvensizliği artırdığını görüyor.