Arsitektur Referensi untuk Enterprise AI Harness di Kubernetes: Empat Lapisan untuk Deployment Agen yang Aman di Produksi

Artikel ini menyajikan arsitektur referensi untuk membangun Enterprise AI Harness yang di-host sendiri di Kubernetes, tersusun atas empat lapisan: Input (Masukan), Agent Loop (Perulangan Agen), Execution (Eksekusi), dan Identity, Policy & Audit (Identitas, Kebijakan & Audit). Lapisan Input memisahkan lalu lintas pengguna, agen, dan peristiwa menggunakan alat seperti Traefik dan webhook n8n. Lapisan Agent Loop (ReAct) mengelola sesi agen yang stateful dengan memori, delegasi, dan human-in-the-loop (HITL, manusia dalam perulangan) menggunakan komponen seperti kagent dan LangGraph. Lapisan Execution mengontrol akses ke sumber daya eksternal (alat MCP, alur kerja, LLM) melalui FastMCP, n8n, dan LiteLLM. Lapisan Identity, Policy & Audit menyediakan otentikasi, otorisasi, dan audit lintas sektor melalui Keycloak, agentgateway, Vault/OpenBao, dan OTEL/Grafana. Arsitektur ini menekankan pada batasan keamanan, multi-tenancy (multi-penyewa) melalui RLS (Row-Level Security, Keamanan Tingkat Baris), namespaces (ruang nama), dan NetworkPolicy (kebijakan jaringan), serta konteks penerapan (Kubernetes, Helm, NetworkPolicy). Keterampilan diimplementasikan sebagai injeksi kemampuan pada level pod (gambar OCI dengan SKILL.md), sementara alat dapat diakses melalui jaringan. Artikel ini mengilustrasikan alur kerja dengan contoh tugas teknik, menunjukkan bagaimana identitas mengalir dari input melalui agentgateway ke eksekusi, dengan jejak audit di seluruh proses. Penulis mencatat bahwa ini adalah model referensi yang berfungsi, bukan produk, dan mengundang diskusi tentang lapisan-lapisan esensial.