Cache Elástico Linear: Uma Nova Abordagem ao Gerenciamento de Cache Otimiza Custos na Nuvem

Pesquisadores do Google Cloud e do Google Research apresentaram o cache elástico linear, um novo método de gerenciamento de cache que minimiza o custo total de propriedade. Bancos de dados modernos de alto desempenho e serviços em nuvem usam cache em memória RAM para acesso rápido aos dados, mas o custo da memória é alto (até $3 por dia por 1 GiB). O cache tradicional com tamanho de memória fixo enfrenta um problema: um cache muito pequeno reduz o desempenho, enquanto um cache muito grande leva a gastos desnecessários. O cache elástico altera dinamicamente o tamanho do cache, tratando a memória como um recurso com custo linear, dependente do volume e do tempo de armazenamento dos dados. O problema é resolvido com o algoritmo de aluguel de esquis (problema do aluguel de esquis), onde para cada fragmento de dados é escolhido entre "alugar" (armazenar com pagamento por tempo) e "comprar" (armazenamento de longo prazo). Para prever o tempo de vida útil ideal (TTL - Time To Live) de uma página, é usada uma árvore de decisão rasa, que é compilada em algumas linhas de C++ e considera o tamanho dos dados, o custo de uma falta de cache e o tipo de operação. A implementação em servidores de produção do Spanner por vários meses mostrou uma redução nos custos de cache de até 35%, com um aumento de apenas 2,6% nas faltas de cache, e, devido à consideração do custo das faltas, o impacto real na entrada e saída foi de apenas 0,5%. Testes em traces públicos com várias variantes do algoritmo (incluindo treinamento na primeira metade do trace) também confirmaram a vantagem da abordagem elástica sobre caches fixos, especialmente quando o custo da memória é alto. O trabalho foi realizado em conjunto com Tamás Sarlós e Ravi Kumar (Google) e apresentado na conferência CIDR 2025.