线性弹性缓存:一种优化云成本的新型缓存管理方法
Google/DeepMind
谷歌研究院和谷歌云推出了线性弹性缓存,该方法通过动态调整缓存大小以最小化总成本。通过将页面驱逐问题建模为滑雪租赁问题,并利用轻量级机器学习模型,该方法在Spanner生产服务器中减少了高达30%的内存使用,而I/O成本仅增加0.5%。
谷歌研究与谷歌云在CIDR 2025上提出了线性弹性缓存。该方法将内存视为可变成本,并采用滑雪租赁算法来确定缓存页面的生存时间(TTL),同时结合轻量级机器学习(浅层决策树)来预测最佳TTL。在Spanner生产环境中,该方法将内存消耗降低了最多30%,而I/O成本仅增加了微不足道的0.5%。公开的轨迹评估也显示,与固定大小缓存相比,该方法持续节省了成本。该工作由Todd Lipcon、Manish Purohit、Tamas Sarlos和Ravi Kumar完成。
来源: Google Research —
原文
