Referenzarchitektur für Enterprise AI Harness auf Kubernetes: Vier Schichten für sicheren Agenten-Einsatz in der Produktion

Der Artikel stellt eine Referenzarchitektur für den Aufbau einer selbst gehosteten Enterprise AI Harness auf Kubernetes vor, die in vier Schichten unterteilt ist: Eingabe, Agenten-Loop, Ausführung sowie Identität, Richtlinien und Prüfung. Die Eingabeschicht trennt Benutzer-, Agenten- und Ereignisverkehr mithilfe von Werkzeugen wie Traefik und n8n-Webhooks. Die Agenten-Loop-Schicht (ReAct) verwaltet zustandsbehaftete Agentensitzungen mit Gedächtnis, Delegation und menschlicher Intervention (Human-in-the-Loop, HITL) unter Verwendung von Komponenten wie kagent und LangGraph. Die Ausführungsschicht kontrolliert den Zugriff auf externe Ressourcen (MCP-Werkzeuge, Workflows, Large Language Models, LLMs) über FastMCP, n8n und LiteLLM. Die Schicht Identität, Richtlinien und Prüfung bietet übergreifende Authentifizierung, Autorisierung und Prüfung durch Keycloak, agentgateway, Vault/OpenBao und OTEL (OpenTelemetry)/Grafana. Die Architektur betont Sicherheitsgrenzen, Multi-Tenancy (über Row-Level Security, RLS, Namespaces, Netzwerkrichtlinien) und den Bereitstellungskontext (Kubernetes, Helm, NetworkPolicy). Fähigkeiten (Skills) werden als pod-lokale Fähigkeitsinjektionen (OCI-Images mit SKILL.md) implementiert, während Werkzeuge netzwerkzugänglich sind. Der Artikel veranschaulicht den Arbeitsablauf anhand eines Ingenieuraufgabenbeispiels und zeigt, wie die Identität von der Eingabe über agentgateway bis zur Ausführung fließt, mit Prüfpfaden durchgängig. Der Autor merkt an, dass es sich um ein funktionierendes Referenzmodell handelt, nicht um ein Produkt, und lädt zur Diskussion über wesentliche Schichten ein.