Siapa yang Sebenarnya Memimpin dalam Pengembangan Agenik? Bukan yang Anda Kira

Artikel ini melaporkan bahwa eksperimen produksi selama dua minggu pada bulan Juni 2026, di mana satu pengembang menggunakan alat pengkodean agen dengan tumpukan tata kelola, mengonsumsi 8,82 miliar token dalam 30.993 permintaan, dengan 99,38% cache hits. Overhead konteks untuk tata kelola (kebijakan, keterampilan, prompt peninjauan) berkisar antara 70.000-90.000 token per panggilan. Biaya bervariasi secara dramatis berdasarkan model: Sonnet 4.6 milik Anthropic akan menelan biaya $4.770 untuk beban kerja yang sama dengan cache hit realistis sebesar 92%, sementara DeepSeek V4 Pro hanya menelan biaya $66,17, perbedaan 72 kali lipat. Kesenjangan ini berasal dari Multi-Head Latent Attention (MLA) milik DeepSeek, yang mengompresi KV-cache sebesar 93,3%, memungkinkan pembacaan cache hampir gratis dan cache bertahan selama berhari-hari di SSD komoditas melalui 3FS, sementara Anthropic, OpenAI, dan Google menggunakan GQA/MHA dengan cache yang kedaluwarsa dalam waktu satu jam karena keterbatasan HBM. Artikel ini juga mengutip insiden di Uber, Microsoft, Amazon, Pinterest, dan sebuah perusahaan yang tidak disebutkan namanya, yang menunjukkan biaya yang meroket dari penggunaan agen yang tidak terkendali, dan berpendapat bahwa pilihan arsitektur DeepSeek membuat tata kelola layak secara ekonomi, tidak seperti alternatif yang lebih mahal yang memaksa tim untuk memangkas langkah-langkah keamanan.