메모리가 없는 인공지능 에이전트는 비싼 계산기에 불과하다: 영속적 메모리 구축하기

Cloud.ru의 Evolution AI Agents 제품 테크리드 블라디슬라프 얀코프스키(Vladislav Yankovsky)가 AI 에이전트를 위한 지속 메모리(persistent memory) 구축에 대해 설명한다. 그는 메모리가 그 자체로 필요한 것이 아니라 기능적 요구사항의 결과로 필요하다고 지적한다. 에이전트가 세션 간 메모리 없이 작동할 수 있다면 메모리는 필요하지 않다는 것이다. 그는 메모리가 필요 없는 Grafana용 에이전트와 메모리가 중요한 L2 지원 에이전트의 예를 든다. 그는 컨텍스트(모델 창 내)와 메모리(모델 외부)를 구분하고, 메모리의 두 가지 차원, 즉 수명(단기, 작업, 장기)과 콘텐츠 유형(의미론적, 일화적, 절차적)을 구분한다. 80%의 경우 단기 및 장기 의미론적 메모리의 조합으로 충분하다. 그는 메모리 수준을 설명한다: 레벨 0은 대화 기록의 단순 저장으로, 중복과 통합 부족으로 인해 불충분하다. 레벨 1은 pgvector, Qdrant, Milvus, Pinecone을 사용한 벡터 검색이다. 레벨 2는 SQL 및 그래프(예: Graphiti)를 사용한 구조화된 메모리이다. 핵심 실수는 원시 응답을 저장하는 것이며, 올바른 방법은 사실을 추출하고 원본 데이터와 추출된 데이터를 포함한 2계층 모델을 유지하는 것이다.