Kejutan Biaya Membuat Eksekutif Memikirkan Ulang Investasi AI

Survei KPMG terhadap lebih dari 2.000 eksekutif senior di 20 negara menemukan bahwa 29% kesulitan memahami biaya operasional saat mereka meningkatkan skala penerapan AI di perusahaan, dan hampir setengahnya menunda jadwal penerapan ketika biaya melebihi nilai yang diharapkan. Vendor seperti Anthropic, OpenAI, dan GitHub telah beralih dari langganan tarif tetap ke penagihan berbasis pemakaian per token, yang menyebabkan kejutan tagihan. Riset Gartner mengindikasikan bahwa biaya pengkodean berbantuan AI per pengembang dapat melampaui rata-rata gaji global pada tahun 2028, terutama di wilayah dengan upah lebih rendah. Sebuah alat sumber terbuka yang dibuat oleh seorang insinyur Netflix memangkas masukan redundan (seperti skema basis data dan log) yang dikirim ke model bahasa besar (large language models/LLMs), menghemat biaya token hingga ratusan ribu dolar bagi pengguna. Alat ini menggunakan 'squashers' untuk menghilangkan verbositas yang tidak perlu sebelum pengiriman.