선형 탄력적 캐싱: 캐시 관리의 새로운 접근 방식이 클라우드 비용을 최적화합니다
Google/DeepMind
Google Research와 Google Cloud가 선형 탄력적 캐싱(linear elastic caching)을 도입했습니다. 이는 캐시 크기를 동적으로 조정하여 총비용을 최소화하는 방법입니다. 페이지 제거를 스키 렌탈 문제(ski rental problem)로 프레이밍하고, 경량 머신러닝 모델을 사용함으로써 Spanner 프로덕션 서버에서 메모리 사용량을 최대 30% 줄이면서 I/O 비용은 0.5%만 증가시켰습니다.
Google Research와 Google Cloud가 CIDR 2025에서 선형 탄력적 캐싱(linear elastic caching)을 발표했습니다. 이 방법은 메모리를 가변 비용으로 취급하고, 스키 대여 알고리즘(ski rental algorithm)을 사용하여 캐시된 페이지의 TTL을 결정하며, 경량 머신러닝(얕은 의사결정 트리)을 결합하여 최적 TTL을 예측합니다. Spanner 프로덕션 환경에서 메모리 소비를 최대 30% 줄이면서도 I/O 비용은 무시할 수 있는 0.5% 증가에 그쳤습니다. 공개 트레이스 평가에서도 고정 크기 캐시 대비 일관된 비용 절감 효과를 보였습니다. 이 연구는 Todd Lipcon, Manish Purohit, Tamas Sarlos, Ravi Kumar가 수행했습니다.
출처: Google Research —
원문
