Kubernetes 기반 엔터프라이즈 AI 하니스를 위한 참조 아키텍처: 프로덕션에서 안전한 에이전트 배포를 위한 네 가지 계층

이 글은 쿠버네티스에서 셀프 호스팅형 엔터프라이즈 AI 하네스를 구축하기 위한 참조 아키텍처를 제시하며, 입력(Input), 에이전트 루프(Agent Loop), 실행(Execution), 그리고 아이덴티티·정책·감사(Identity, Policy & Audit)의 네 계층으로 구성됩니다. 입력 계층은 Traefik 및 n8n 웹훅과 같은 도구를 사용하여 사용자, 에이전트, 이벤트 트래픽을 분리합니다. 에이전트 루프(ReAct) 계층은 kagent 및 LangGraph와 같은 구성 요소를 사용하여 메모리, 위임, 인간개입루프(HITL)를 포함한 상태 저장 에이전트 세션을 관리합니다. 실행 계층은 FastMCP, n8n 및 LiteLLM을 통해 외부 리소스(MCP 도구, 워크플로우, LLM)에 대한 접근을 제어합니다. 아이덴티티·정책·감사 계층은 Keycloak, agentgateway, Vault/OpenBao, OTEL/그라파나(Grafana)를 통해 인증, 권한 부여 및 감사 기능을 계층 간에 제공합니다. 이 아키텍처는 보안 경계, 다중 테넌시(RLS, 네임스페이스, 네트워크 정책 사용), 배포 컨텍스트(쿠버네티스, 헬름(Helm), 네트워크 정책(NetworkPolicy))를 강조합니다. 스킬은 파드 로컬 기능 주입(SKILL.md가 포함된 OCI 이미지)으로 구현되고, 도구는 네트워크를 통해 접근 가능합니다. 이 글은 엔지니어링 작업 예시를 통해 입력에서 agentgateway를 거쳐 실행까지 아이덴티티가 흐르고 전체적으로 감사 추적이 이루어지는 워크플로우를 설명합니다. 저자는 이것이 제품이 아닌 작업 중인 참조 모델임을 밝히며, 필수 계층에 대한 논의를 초대합니다.