AI 추론은 근본적으로 다른 데이터 인프라를 필요로 한다고 Silk가 주장

엔비디아 CEO 젠슨 황이 'AI 공장' 시대를 선언했지만, 실크(Silk)는 챗봇에서 자율 AI 에이전트로의 전환이 막대한 데이터 문제를 야기한다고 경고합니다. 추론(Inference)은 전례 없는 동시성, 읽기 스파이크, 예측 불가능한 액세스 패턴을 동반한 OLTP++(온라인 트랜잭션 처리 플러스플러스)처럼 작동하며, AWS EBS 버스트 크레딧을 빠르게 소진시키고 지연 시간을 1ms에서 100ms 이상으로 급증시킵니다. 컴퓨팅이 아닌 스토리지 병목 현상이 중요 장애 지점이 됩니다. 실크는 '핀리테일(FinRetail)' 사례 연구를 제시하는데, RAG(검색 증강 생성) 기반 쇼핑 어시스턴트가 '성공적 재앙'을 초래하여 스토리지 계층을 압도하고 전체 사이트를 다운시킨 사례입니다. 실크에 따르면 해결책은 애플리케이션 성능을 네이티브 AWS 스토리지 제한에서 분리하는 소프트웨어 정의 스토리지 추상화로, 혼합 부하에서도 일관된 서브 밀리초 미만의 p99(99번째 백분위수) 지연 시간을 제공하는 것입니다. 실크의 대칭형 액티브-액티브 아키텍처와 분산 캐싱은 20GiB/s I/O 처리량을 제공하여 취약한 읽기 복제본이나 과도한 EC2 컴퓨트 프로비저닝의 필요성을 제거합니다.