Lineair Elastisch Cachen: Een Nieuwe Benadering van Cachebeheer Optimaliseert Cloudkosten
Google/DeepMind
Google Research en Google Cloud hebben lineair elastisch cachen geïntroduceerd, een methode die de cachegrootte dynamisch aanpast om de totale kosten te minimaliseren. Door paginavrijgave te modelleren als een ski-verhuurprobleem en een lichtgewicht machine learning-model te gebruiken, verminderde de aanpak het geheugengebruik met maximaal 30% in Spanner-productieservers, met slechts een 0,5% toename in I/O-kosten.
Google Research en Google Cloud presenteerden 'linear elastic caching' op de CIDR 2025-conferentie. De methode behandelt geheugen als een variabele kostenpost en gebruikt een ski rental-algoritme om de 'time-to-live' (TTL) voor gecachte pagina's te bepalen, gecombineerd met lichte machine learning (een ondiepe beslissingsboom) om de optimale TTL te voorspellen. In de Spanner-productieomgeving leidde dit tot een reductie van het geheugengebruik met maximaal 30%, terwijl de I/O-kosten slechts marginaal met 0,5% stegen. Evaluaties met publieke traces toonden ook consistente kostenbesparingen ten opzichte van caches met vaste grootte. Het werk werd uitgevoerd door Todd Lipcon, Manish Purohit, Tamas Sarlos en Ravi Kumar.
Bron: Google Research —
origineel