Caché Elástico Lineal: Un Nuevo Enfoque para la Gestión de Caché que Optimiza los Costos en la Nube

Investigadores de Google Cloud y Google Research han presentado el almacenamiento en caché elástico lineal, un nuevo método de gestión de caché que minimiza el coste total de propiedad. Las bases de datos modernas de alto rendimiento y los servicios en la nube utilizan el almacenamiento en caché en memoria RAM para un acceso rápido a los datos, pero el coste de la memoria es elevado (hasta 3 dólares al día por 1 GiB). El almacenamiento en caché tradicional con un tamaño de memoria fijo se enfrenta a un problema: una caché demasiado pequeña reduce el rendimiento, mientras que una demasiado grande conlleva gastos injustificados. El almacenamiento en caché elástico ajusta dinámicamente el tamaño de la caché, considerando la memoria como un recurso con un coste lineal que depende del volumen y el tiempo de almacenamiento de los datos. El problema se resuelve mediante el algoritmo de "alquiler de esquís" (problema del alquiler de esquís), donde para cada fragmento de datos se elige entre "alquilar" (almacenar con un coste por tiempo) y "comprar" (almacenamiento a largo plazo). Para predecir el tiempo de vida (TTL) óptimo de una página, se utiliza un árbol de decisión poco profundo que se compila en unas pocas líneas de C++ y tiene en cuenta el tamaño de los datos, el coste de un fallo de caché y el tipo de operación. La implementación en servidores de producción de Spanner durante varios meses mostró una reducción de los costes de caché de hasta el 35%, con un aumento de los fallos de caché de solo el 2,6%, y debido a la consideración del coste de los fallos, el impacto real en las operaciones de entrada y salida fue solo del 0,5%. Las pruebas en trazas públicas utilizando varias variantes del algoritmo (incluyendo el entrenamiento en la primera mitad de la traza) también confirmaron la ventaja del enfoque elástico frente a las cachés fijas, especialmente cuando el coste de la memoria es alto. El trabajo se realizó en colaboración con Tamás Sarlós y Ravi Kumar (Google) y se presentó en la conferencia CIDR 2025.