Caching Elastis Linear: Pendekatan Baru Manajemen Cache Mengoptimalkan Biaya Cloud
Google/DeepMind
Google Research dan Google Cloud memperkenalkan caching elastis linear, suatu metode yang secara dinamis menyesuaikan ukuran cache untuk meminimalkan biaya total. Dengan merumuskan penggusuran halaman sebagai masalah ski rental dan menggunakan model pembelajaran mesin ringan, pendekatan ini mengurangi penggunaan memori hingga 30% di server produksi Spanner dengan hanya peningkatan biaya I/O sebesar 0,5%.
Google Research dan Google Cloud mempresentasikan linear elastic caching di CIDR 2025. Metode ini memperlakukan memori sebagai biaya variabel dan menggunakan algoritma ski rental untuk menentukan waktu hidup (TTL) halaman yang di-cache, dikombinasikan dengan pembelajaran mesin ringan (pohon keputusan dangkal) untuk memprediksi TTL optimal. Di produksi Spanner, metode ini mengurangi konsumsi memori hingga 30% dengan peningkatan biaya input/output (I/O) yang dapat diabaikan sebesar 0,5%. Evaluasi dengan jejak publik juga menunjukkan penghematan biaya yang konsisten dibandingkan dengan cache berukuran tetap. Pekerjaan ini dilakukan oleh Todd Lipcon, Manish Purohit, Tamas Sarlos, dan Ravi Kumar.
Sumber: Google Research —
asli