Cache élastique linéaire : une nouvelle approche de gestion du cache optimise les coûts cloud
Google/DeepMind
Google a introduit le cache élastique linéaire, une méthode qui modifie dynamiquement la taille du cache en fonction de la charge, réduisant les coûts de mémoire jusqu'à 35 % avec une augmentation quasi imperceptible du taux d'échec du cache (0,5 %). Cette approche applique le problème de location de skis et l'apprentissage automatique léger pour optimiser la durée de vie des pages dans le cache.
Des chercheurs de Google Cloud et Google Research ont présenté le cache élastique linéaire, une nouvelle méthode de gestion de cache qui minimise le coût total de possession. Les bases de données hautes performances et les services cloud modernes utilisent la mise en cache en mémoire vive pour un accès rapide aux données, mais le coût de la mémoire est élevé (jusqu'à 3 dollars par jour pour 1 Gio). La mise en cache traditionnelle avec une taille de mémoire fixe se heurte à un problème : un cache trop petit réduit les performances, un cache trop grand entraîne des dépenses inutiles. Le cache élastique ajuste dynamiquement la taille du cache en considérant la mémoire comme une ressource dont le coût linéaire dépend du volume et de la durée de stockage des données. Le problème est résolu à l'aide de l'algorithme de « location de skis » (ski rental problem), où pour chaque fragment de données, on choisit entre « location » (stockage avec un coût temporel) et « achat » (stockage à long terme). Pour prédire la durée de vie optimale (TTL, pour « time to live ») d'une page, un arbre de décision peu profond est utilisé, compilé en quelques lignes de C++, et prend en compte la taille des données, le coût d'un échec de cache et le type d'opération. L'intégration dans les serveurs de production Spanner pendant plusieurs mois a montré une réduction des coûts de cache allant jusqu'à 35 % pour une augmentation des échecs de cache de seulement 2,6 %, l'impact réel sur les entrées-sorties n'étant que de 0,5 % en raison de la prise en compte du coût des échecs. Des tests sur des traces publiques avec différentes variantes de l'algorithme (y compris un apprentissage sur la première moitié de la trace) ont également confirmé l'avantage de l'approche élastique par rapport aux caches fixes, en particulier lorsque le coût de la mémoire est élevé. Ces travaux, réalisés en collaboration avec Tamás Sarlós et Ravi Kumar (Google), ont été présentés à la conférence CIDR 2025.
Source: Google Research —
original