RAG를 죽이기: 6줄 규칙이 검색 증강 생성의 메모리를 대체하는 방법

저자는 RAG를 검색 방법이 아닌 메모리 접근 방식으로 '죽였다'고 주장하며, '무엇이 유사한가'가 아니라 '지금 무엇이 사실인가'를 답하는 대체 방식을 찾아냈다고 설명합니다. 엔지니어, 팀장, 이사라는 세 가지 직함을 가진 사람의 예를 들어, 벡터 유사성은 모든 버전을 동등하게 취급하여 환각을 유발한다는 것을 보여줍니다. 해결책은 타임스탬프와 fact_key를 기반으로 잊히지 않은 가장 최근 버전의 사실을 선택하는 여섯 줄짜리 규칙입니다. 이 규칙은 기하학(벡터 내적), hnsw(근사 최근접 이웃), 저널(추가 전용 로그) 모듈을 갖춘 Rust 시스템의 일부입니다. 시스템에는 '정직한 기권'도 포함되어 있습니다. 가장 가까운 지식이 보정된 임계값(GEOLLM_THRESHOLD)을 넘어서면 '모르겠다'고 말합니다. 400개의 반사실적 사례를 포함한 MQUAKE-CF 실험에서 이 여섯 줄 규칙은 bge-m3 인코더와 gemma3 중재자를 사용하는 파이프라인보다 우수한 성능을 보였습니다. 저자는 이 규칙이 버전, 신선도, 망각, 역사적 관점이라는 네 가지 속성을 무료로 제공하며, 다섯 번째 속성으로 기권을 제공한다고 강조합니다.