초보자를 위한 LLM 에이전트 아키텍처

이 기사는 순수한 LLM(Large Language Model) 서버를 도리(Dory)라는 물고기에 비유해 설명한다. 도리는 단기 기억력이 없고 스스로 행동할 능력도 없는데, 이는 아무런 장치가 더해지지 않은 LLM 서버의 상태와 같다는 것이다. 이런 LLM을 실제로 쓸모 있게 만들려면 여러 층의 기능을 덧붙여야 한다. 대화 기록을 저장하는 채팅 컨텍스트 저장소, 최신 데이터를 바탕으로 답변의 근거를 마련해주는 인터넷 검색 기능, 비공개 지식을 반영할 수 있도록 하는 RAG(검색 증강 생성, Retrieval-Augmented Generation) 기반의 로컬 검색, 모델이 특정 행동을 요청하면 외부 시스템이 이를 실행해주는 툴(tool) 기능, 일관된 행동을 유도하는 시스템 프롬프트, 그리고 자율성을 위해 계획-실행-점검(plan-do-check) 사이클로 작동하는 오케스트레이션이 그것이다. MCP(모델 컨텍스트 프로토콜, Model Context Protocol)는 이러한 툴 인터페이스를 표준화하는 역할을 한다. 저자는 모델들이 점점 더 뛰어난 능력을 갖추고 있지만, 근본적으로는 여전히 단순한 존재로 남아 있다고 지적한다. 기사는 이러한 원리를 바탕으로 구축된 프레임워크와 도구들, 즉 LangChain, CrewAI, Dify, LlamaIndex 등을 소개하며 마무리된다.