Reference Architecture for Enterprise AI Harness on Kubernetes: Four Layers for Safe Agent Deployment in Production

Penulis artikel menganalisis masalah penyebaran agen AI ke produksi dan mengusulkan arsitektur referensi (reference architecture) untuk Enterprise AI Harness yang dihosting sendiri (self-hosted) di Kubernetes. Dasarnya adalah model Anthropic, di mana "harness" adalah runtime untuk agen yang mencakup Agen (Agent), Lingkungan (Environment), Sesi (Session), dan Peristiwa (Events). Untuk lingkungan perusahaan, penulis mengadaptasi model ini dengan membedakan empat lapisan: Input — lapisan masuk yang memisahkan lalu lintas pengguna, agen, dan peristiwa melalui SSO (Single Sign-On), JWT (JSON Web Token), dan webhook; Agent Loop (ReAct) — lapisan siklus agen dengan memori, delegasi tugas, dan Manusia-Dalam-Lingkaran (Human-in-the-Loop, HITL); Execution — lapisan akses terkendali ke sumber daya eksternal (server MCP, alur kerja, penyedia LLM) dengan kontrol akses; Identity, Policy & Audit — lapisan lintas sektor untuk identitas, kebijakan, dan audit berbasis Keycloak, agentgateway, Vault, dan OTEL (OpenTelemetry). Selain itu, diperkenalkan kondisi lintas sektor multi-penyewaan (multi-tenancy) dan penyebaran asli Kubernetes (Kubernetes-native). Skills diimplementasikan sebagai injeksi kemampuan tingkat pod (pod-local) melalui citra OCI, sementara tools berada di jaringan runtime MCP. Pada contoh tugas teknik "tambahkan validasi pada API", ditunjukkan interaksi antarlapisan: mulai dari masuk melalui Telegram/Web UI, autentikasi dan otorisasi melalui Keycloak dan agentgateway, kerja kagent dengan konteks tugas (task context) dan sub-agen, hingga eksekusi di lingkungan terisolasi dengan rahasia berumur pendek (short-lived secrets) dari Vault dan audit penuh melalui OTEL. Arsitektur ini dibangun dari komponen sumber terbuka (open source): Traefik, oauth2-proxy, n8n, kagent, LangGraph, FastMCP, LiteLLM, Keycloak, agentgateway, Vault/OpenBao, External Secrets Operator, OTEL, dan Grafana.