Fiyat şoku yöneticileri yapay zeka stratejisini yeniden düşünmeye itiyor

KPMG'nin 20 ülkede 2.000'den fazla üst düzey yöneticiyle yaptığı bir anket, katılımcıların %29'unun kurumsal yapay zeka dağıtımlarını ölçeklendirirken işletme maliyetlerini anlamakta zorlandığını ve neredeyse yarısının, maliyetler beklenen değeri aştığında dağıtımları yeniden zamanladığını ortaya koydu. Anthropic, OpenAI ve GitHub gibi satıcılar, sabit ücretli aboneliklerden token başına kullanım bazlı faturalandırmaya geçerek fatura şokuna neden oldu. Gartner araştırması, 2028 yılına kadar yapay zeka destekli kodlama maliyetlerinin, özellikle düşük ücretli bölgelerde, geliştirici başına küresel ortalama maaşı aşabileceğini gösterdi. Bir Netflix mühendisi tarafından oluşturulan açık kaynaklı bir araç, büyük dil modellerine gönderilen veritabanı şemaları ve günlükler gibi fazla girdileri kırparak kullanıcılara token maliyetlerinde yüzbinlerce dolar tasarruf sağlıyor. Araç, gönderimden önce gereksiz ayrıntıları kaldırmak için 'sıkıştırıcılar' kullanıyor.