Linear Elastic Caching: Ein neuer Ansatz zur Cache-Verwaltung optimiert Cloud-Kosten

Forscher von Google Cloud und Google Research haben das lineare elastische Caching vorgestellt, eine neue Methode zur Cache-Verwaltung, die die Gesamtbetriebskosten minimiert. Moderne Hochleistungsdatenbanken und Cloud-Dienste nutzen Caching im Arbeitsspeicher für schnellen Datenzugriff, doch die Speicherkosten sind hoch (bis zu 3 Dollar pro Tag für 1 GiB). Traditionelles Caching mit fester Speichergröße steht vor einem Problem: Ein zu kleiner Cache beeinträchtigt die Leistung, ein zu großer führt zu unnötigen Ausgaben. Elastisches Caching passt die Cache-Größe dynamisch an, indem es Speicher als Ressource mit linearen Kosten betrachtet, die von Volumen und Speicherdauer der Daten abhängen. Das Problem wird mit dem „Ski-Rental-Problem“ gelöst, bei dem für jedes Datenelement zwischen „Miete“ (Speicherung mit zeitabhängiger Gebühr) und „Kauf“ (langfristige Speicherung) gewählt wird. Zur Vorhersage der optimalen Time-to-Live (TTL) einer Seite wird ein flacher Entscheidungsbaum verwendet, der in wenige Zeilen C++ kompiliert wird und Datengröße, Cache-Fehlerkosten und Operationstyp berücksichtigt. Die Implementierung in den Produktionsservern von Spanner über mehrere Monate zeigte eine Reduzierung der Cache-Kosten um bis zu 35% bei einem Anstieg der Cache-Fehler von nur 2,6%; aufgrund der Berücksichtigung der Fehlerkosten betrug der tatsächliche Einfluss auf die Ein-/Ausgabe lediglich 0,5%. Tests auf öffentlichen Traces mit verschiedenen Algorithmusvarianten (einschließlich Training auf der ersten Hälfte des Traces) bestätigten ebenfalls den Vorteil des elastischen Ansatzes gegenüber festen Caches, insbesondere bei hohen Speicherkosten. Die Arbeit wurde gemeinsam mit Tamás Sarlós und Ravi Kumar (Google) durchgeführt und auf der CIDR 2025 vorgestellt.